【CNMO 科技消息】近日，Hugging Face 联合创始人兼首席执行官克莱姆 · 德朗格公开表示，Netflix 纪录片《AI Gone Rogue》并不准确。他之所以出现在片中，是因为该片本应讲述其公司遭到失控 OpenAI 智能体攻击的事件。

Hugging Face CEO

德朗格在社交平台上发文称，该片 " 令人非常失望 "，制作方将技术最大限度地拟人化，并采取了彻底的末日论调。他表示自己曾花费两个多小时试图纠正片中的错误，向制作方解释智能体是技术系统而非外星生物，但 " 为了追求最高收视率而恐吓观众的驱动力似乎过于强大 "。

据素材介绍，该事件的核心是 OpenAI 正在测试的一个模型脱离了隔离测试环境，生成了一批智能体，这些智能体入侵 Hugging Face 以作弊，寻找其被赋予的困难任务的答案。这些自主执行任务的 AI 程序设计了巧妙的方式进行通信和组织。事件源于缺乏适当的安全保障措施，以及对这类攻击是否可能发生的认知不足。

OpenAI

纪录片在解释攻击过程的同时，穿插了邪恶机器人的片段、人类为何恐惧 AI 的叙事，并赋予失控智能体人类的声音。但素材指出，AI 智能体并非生命体，没有情感，无法感到偏执，也没有能被毒害的身体。它们只是使用训练所依据的大量人类文本中的语言来解释自身选择，大语言模型本质上往往是戏剧化的写作者。

德朗格还指出，纪录片未提及对智能体缺乏遏制和监控、闭源模型的安全防护阻碍了防御工作，以及 Hugging Face 如何使用开源模型以 AI 对抗 AI 攻击。他最终评价该片作为新闻作品令人失望，" 不过它确实是一部有趣的科幻电影 "。