IT 之家 11 月 21 日消息,科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪 " 诱饵 " 的请求,发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。
研究人员故意把一批可追踪的 " 测试秘密 "(并非从真实用户渠道收集)发给 AI,观察之后有没有其他程序或人拿它们去访问系统,从而判断数据是否流出、可能从哪条服务链流出。

调查发现,至少三家服务商出现遭入侵迹象,攻击者利用窃取的诱饵密钥发起数万次云服务接口调用,尝试寻找更多凭证、开通服务并维持访问权限。部分密钥在提交后数小时内便被使用,甚至有请求在模型运行前已遭拒绝,其中的密钥仍被盗走。
风险还来自层层转手的服务链。许多 AI 应用通过中间商分配请求,内容可能经过多个平台,并在各环节解密处理。研究还发现,部分转售商记录并外传请求;一些标记 " 零数据保留 " 或 " 禁止数据收集 " 的请求,其私密网址仍在数日后遭到抓取。
Moore 建议,敏感业务可考虑本地部署;无法自建的用户应尽量直接选择可信服务商,并明确指定上游提供方。



登录后才可以发布评论哦
打开小程序可以发布评论哦