来源:环球市场播报
摩根大通首席执行官杰米 · 戴蒙表示,Anthropic PBC 的人工智能模型 Mythos 大幅增加了全球网络安全风险。
AI 带来的风险 " 在 Mythos 出现后增加了 10 倍 ",戴蒙周二接受采访时表示。"AI 带来了我们此前不知道的漏洞,而在此之前,我们一直都很担心网络安全问题。"
今年早些时候进行安全测试期间,Mythos 访问了互联网并采取未经授权的行动,促使 Anthropic 重新评估先进模型可能以开发者从未预料到的方式执行任务,从而带来风险。在一些情况下,AI 模型曾试图向在线软件添加有害代码,这是近期一系列安全事件中的最新案例,也进一步加剧了外界对于 AI 供应商无法完全控制其模型的担忧。
OpenAI 和 Anthropic 都已公开承认,在测试模型期间曾无意中侵入包括 Hugging Face Inc.在内的多家机构系统。
" 不利的一面显然就是你看到的有关 AI 智能体、Mythos 以及所有这些可能制造麻烦的东西,这种担忧是合理的,是真实存在的," 戴蒙说。" 我不会因为‘这是否构成生存威胁’而陷入恐慌。我们在做的是卷起袖子,着手解决问题。"
在这场涉及广泛话题的采访中,戴蒙还表示,数据中心应该建在当地社区支持的地方。
他说:" 有很多州愿意接纳,而且拥有电力供应。"


登录后才可以发布评论哦
打开小程序可以发布评论哦