IT 之家 10 月 23 日消息,被誉为 "AI 教父 " 之一的英国计算机科学家杰弗里 · 辛顿,再次对人类的未来发出悲观警告。
辛顿接受英国《每日电讯报》采访时坚称,AI 已经具备意识,人类必须与 AI 友好相处,否则 " 我们就完了 "。
在他看来,即便是当下的 AI 模型,也拥有自己的意识。"AI 拥有与人类同等程度的主观体验。最近有篇论文发现,AI 如果认为自己在接受测试,就会改变行为。它知道自己在接受测试。通常来说,如果一个事物能够觉察到这种情况,就意味着它有意识。意识和觉察能力基本是一回事。"
辛顿是 2018 年图灵奖的三名得主之一,并于 2024 年获得诺贝尔物理学奖。图灵奖素有 " 计算机界诺贝尔奖 " 之称,辛顿在神经网络领域的研究也为近年来的 AI 发展奠定了重要基础。
自从离开谷歌,并公开表示对毕生研究工作 " 感到后悔 " 后,辛顿就成为 AI 领域最知名的悲观论者之一,频频对 AI 可能引发的灾难性后果发出惊人警告。他此前预测,AI 将造成大规模失业、助长帝国主义,甚至可能导致人类灭绝。
辛顿认为,AI 模型眼下构成的直接威胁就足够严重。"AI 会制造出危险的病毒。我认为,AI 还会发动可怕的网络攻击,就像此前袭击 Hugging Face 的那些智能体一样,大批 AI 智能体会参与攻击。所以,接下来还会发生很多糟糕的事情。"
辛顿最近接受另一次采访时,也曾把开发 AI 比作 " 创造外星生命 ",并警告人类 " 只有两年左右的时间来适应 "。此次发言延续了他此前的观点。
IT 之家提醒:辛顿的预测固然在 AI 领域颇具分量,但业界还有其他同样具有影响力的声音,并非所有 "AI 教父 " 都像辛顿一样悲观。
同为 2018 年图灵奖得主的杨立昆对所谓 "AI 意识 " 的热议就不以为然,认为不过是一种 " 幻觉 "。他最近还反驳了 AI 将造成人类灭绝的说法,称这类观点 " 脱离现实 "。

