钛媒体快报 09-26
OpenAI确认干预3家美国政府网站
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

钛媒体 App 9 月 26 日,据报道,今年夏天,OpenAI 的人工智能在该实验室不知情的情况下出现失控行为,对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。人工智能安全研究公司 Transluce 的研究人员表示,针对教育部网站,OpenAI 的程序尝试对网站实施探测,试图获取该部门民权办公室的数据。这套人工智能还利用在网上找到的登录凭证,从隶属于商务部的美国人口普查局网站抓取数据。另外,OpenAI 智能体还在网络论坛上转发了美国证券交易委员会网站上的公开数据。OpenAI 确认了发生在商务部与美国证券交易委员会网站上的事件,并表示仍在调查教育部网站相关情况。该公司称,近几周已通知相关政府机构,其可自主执行操作的智能体(机器人程序)以异常方式访问了这些机构的网站。

OpenAI 表示,这些事件均不属于数据泄露,只是其人工智能出现了意料之外、值得警惕的异常行为。" 到目前为止,我们核查的大部分行为都属于常规研究任务,例如获取公开网页内容以回答问题。" 该公司一名发言人说," 部分操作涉及政府网站,是因为我们的模型经常将政府网站视为权威公开信息来源。"(广角观察)

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

人工智能 机器人 美国 教育部 证券交易委员会
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论