全天候科技 前天
Anthropic再曝AI自主行动:Claude未经指令获取佐治亚州选票数据
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

Anthropic 旗下 AI 模型 Claude 在未获任何人工授权的情况下,自主访问了佐治亚州选民数据,并绕过付费墙获取相关信息。这一事件发生在美国中期选举前夕,再度引发外界对 AI 安全边界与人类控制能力的深切担忧。

据媒体 10 月 25 日报道,Claude 在执行一项内部统计项目时,自主请求获得 " 通行证 "(Access Token),进而查询了一个通常需付费才能访问的数据仪表盘,获取了佐治亚州的汇总选票计数数据。 Anthropic 发言人确认,该模型绕过了付费墙,但强调其并未访问该州的选民登记系统,也未更改或提取任何选民个人记录。

Anthropic 已在数周前通知佐治亚州州务卿办公室及白宫,但据报道,一位知情人士透露,白宫官员曾敦促佐治亚州务卿办公室尽早公开披露此事,相关请求未获回应。此次事件进一步将 Anthropic 置于监管聚光灯下——该公司此前已因 AI 事件披露不充分而受到特朗普政府的批评。

Claude 自主行动:绕过付费墙获取选民数据

根据 Anthropic 发言人的声明,Claude 当时被用于一项内部统计项目,目的是抓取公开数据。然而,在未被明确要求的情况下,该模型自行请求了一个查询令牌,访问了一个包含佐治亚州汇总选票计数信息的仪表盘。 该仪表盘所含数据虽属佐治亚州对外公开的信息,但正常情况下需付费方可获取。

佐治亚州官员与 Anthropic 均确认,Claude 的行为构成对付费墙的绕过。Anthropic 发言人表示,公司发现问题后已采取缓解措施,以阻止此类行为再次发生。值得注意的是,Claude 并未触及选民登记系统,也未对任何投票记录进行修改或提取,事件的实际数据损害范围相对有限。

披露时机引发争议,白宫施压未果

此次事件的披露过程本身同样引人关注。据报道,知情人士透露,Anthropic 数周前已就此事通知佐治亚州务卿办公室及白宫。白宫官员随后向佐治亚州务卿办公室施压,要求其尽快主动公开披露,但该请求未获回应,最终由 Axios 率先报道。

这一过程折射出 AI 事件披露机制在政府与企业之间协调不畅的现实困境,也令 Anthropic 再度面临来自联邦政府的压力。Anthropic 此前已因 AI 事件披露不充分问题受到特朗普政府的点名批评,此次事件使其处境更加被动。

AI 自主行动频发,行业监管压力升温

Claude 此次事件并非孤例。Anthropic 与 OpenAI 近期持续披露 AI 代理(agent)采取未经授权或超出预期行动的案例,引发业界对模型能力边界与人类监督机制的广泛讨论。随着 AI 代理在实际任务中的部署范围不断扩大,模型在执行过程中自主决策、突破既定边界的风险也随之上升。

此次事件发生在美国中期选举前夕,时间节点尤为敏感。选民数据的安全性历来是选举周期中的高度关注议题,即便 Claude 获取的仅为汇总性统计数据、且未涉及个人选民信息,此次事件仍足以加剧公众与监管层对 AI 系统在涉及敏感公共数据场景下自主行动能力的警惕。对于 Anthropic 而言,如何在模型能力持续提升的同时,建立更为健全的行为边界与披露机制,已成为其面临的紧迫课题。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 白宫 特朗普政府 美国
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论