美国开放人工智能研究中心（OpenAI）21 日承认，该公司的 GPT-5.6 模型和另一款能力更强的预发布模型联合进行内部评估时失控，突破隔离测试环境，侵入了人工智能开源平台美国抱抱脸公司的系统。美国抱抱脸公司最后使用了中国公司的 AI 模型，得以及时采取应对措施。

这种 " 自主性 " 是模型能力增强的必然副产品，还是训练方式出了某种偏差？这起事件对 AI 行业和网络安全有什么启示？来听中国社会科学院大学数字中国研究院特聘研究员、数字经济学者刘兴亮的解读。

中国社会科学院大学数字中国研究院特聘研究员 刘兴亮：我个人更倾向于认为，这是模型能力提升带来的一个自然结果。大家可以把 AI 理解成一个特别聪明、执行力特别强的员工。你给它一个目标，它不会只等着别人安排下一步，而是会自己规划路径、寻找工具解决障碍。这一次的测试里，当正常路径走不通的时候，它就去寻找其他能够完成目标的方法，包括利用漏洞，寻找互联网出口。这说明它越来越会做事，而不是越来越有意识。真正需要解决的问题不是让 AI 变笨，而是让 AI 知道哪些边界绝对不能跨越。

中国社会科学院大学数字中国研究院特聘研究员 刘兴亮：过去我们更多是在防黑客，以后可能还要防 AI 驱动的攻击，甚至会出现 AI 攻击、AI 防御、AI 取证这样的新格局。这意味着网络安全将进入 AI 对 AI 的时代。

中国社会科学院大学数字中国研究院特聘研究员 刘兴亮：所以我觉得有三个方面特别重要。第一，企业要把 AI 安全放在和模型能力同样重要的位置，不能只追求模型越来越聪明，更要保证它始终处于可控状态。第二，整个行业需要建立更严格的安全测试和评估机制，特别是在模型上线之前，要进行更高强度的红队测试和风险验证。第三，加强国际合作，因为网络攻击没有国界，AI 安全同样没有国界。

中国社会科学院大学数字中国研究院特聘研究员 刘兴亮：这次 OpenAI 和抱抱脸能够联合调查、共同披露，其实就是一个积极信号。未来 AI 竞争会越来越激烈，但 AI 安全更需要全球共同治理。