首尔博客

首尔博客

人类只有5年时间了
2024-02-22

加州伯克利的非营利机构「机器智能研究所」首席研究员Yudkowsky发出了警告,表示人类可能只剩下5年左右的时间,将面临由机器人引发的末日灾难。他认为人工智能将迅速发展到拥有神一般能力的超级智能,而这种发展速度和野心将无法受到控制或遏制。

Yudkowsky建议不再将人造大脑看作一个简单的盒子,而是设想一个思维速度是人类千倍的外星文明,拥有无穷无尽的“盒子”。他甚至呼吁关闭培育和训练人工智能的计算机“农场”,并敢言未来或许需要对AI的数据中心进行空袭,甚至使用核武器以确保人类的生存。

在伦敦和纽约等地,一些艺术家和作家开始自称为「愚人」,代表新技术保守主义。他们并非要放弃创新,而是强调审视每一项技术创新的优点、社会公平性及其潜在的隐蔽恶意。对于他们来说,技术的存在并不意味着无法对其进行质疑,人类应该保持怀疑的态度,尤其是在技术应用于工作场所和社会生活时。

新技术保守主义者认为,技术的发展往往是被金钱和权力驱动的,其目标更倾向于服务于少数有权势的人,而不是普通人。他们关注AI技术对就业和社会公平性的影响,警示人们应当审慎对待技术发展可能带来的负面影响。


发表评论: