【CNMO 科技消息】近日，Anthropic 首席执行官达里奥 · 阿莫迪通过视频在联合国安理会人工智能与国际安全会议上发言，就 AI 的潜在风险发出严厉警告。他明确表示，如果管理不善，AI 可能对全人类构成生存风险。他同时承诺，出于安全考量，Anthropic 将放慢 AI 的研发进度。

Anthropic

阿莫迪在发言中系统阐述了 AI 面临的两类核心风险。第一是 AI 模型被滥用，他特别指出 " 生物恐怖分子利用 AI 制造生物武器 " 的风险——不法分子可能借助 AI 技术降低制造生物武器的门槛，对全球安全构成直接威胁。第二是模型能力加速超越开发者的控制能力，即 AI 系统可能在人类尚未建立起有效管控机制之前，就已发展到难以驾驭的程度。

" 如果管理不善，我甚至认为 AI 可能成为全人类的风险，" 阿莫迪对安理会表示。他将此定义为 " 当今世界面临的最重要的全球安全问题 "。

面对上述风险，阿莫迪给出了 Anthropic 的具体承诺。他表示，公司将 " 需要多慢就多慢 " 地放慢步伐，以确保每一个新发布的 AI 系统都是安全的。但他同时强调，管理 AI 风险 " 比任何一家公司都更大 "，具有 " 全行业和全球的规模 "。

Anthropic

阿莫迪呼吁建立全球统一的 AI 模型测试标准，覆盖 " 失控风险与滥用风险 " 两个维度，并建议设立 AI 安全事件通报系统，使各国能够相互核实承诺的履行情况。他提出的三项国际合作建议包括：禁止将 AI 用于制造生物武器的窄范围全球协议、评估与验证体系，以及全球 AI 测试标准与安全事件通报机制。