来源:环球市场播报

SpaceX 人工智能部门在 8 月推出个人 AI 智能体产品 Grok Bot 的数周前,Cursor 的工程师发现了一个潜在隐患。
当时 SpaceX 正收购 AI 代码初创公司 Cursor,而 Grok Bot 正是由 Cursor 负责开发。在开发过程中,Cursor 全体员工大量使用该工具开展测试与日常工作。7 月下旬,工程师提出担忧:Cursor 可能已将内部测试产生的数据(其中或包含客户、供应商及商业伙伴的机密信息)发送至 SpaceX 人工智能部门。媒体查阅的内部通讯资料显示,Cursor 一名律师警告,一旦外界得知公司使用该数据进行模型训练,可能会引发 " 严重的信任危机 "。
媒体查阅的内部文件以及两名了解该项目的知情人士称,Cursor 随即启动内部调查,以查清究竟有哪些敏感数据(如果存在)被发送至如今名为 SpaceX SI 的 SpaceX 人工智能部门。目前外界尚不清楚这次内部调查的结论,但该公司已采取措施,确保后续模型训练不再纳入员工使用产生的数据。
该事件凸显了 AI 研发企业面临的一项挑战,随着 Grok Bot 这类智能体工具日益普及,这一问题愈发突出。这类智能体在设计上被赋予较高权限,可以遍历用户电脑内各类文件与应用程序,从而自主完成任务。
但这种高自由度带来了全新的安全风险,包括无意间把敏感信息提供给模型用于训练。总体而言,各大 AI 企业均表态,不会借助 Gmail、谷歌云盘这类互联工具获取的数据开展模型训练。例如,在 Grok Bot 的服务条款中,SpaceX SI 写明,公司不会利用谷歌云盘数据训练模型,用户可选择拒绝共享自身数据用于该用途。
Grok Bot 相关数据调查并非 Cursor 遭遇的唯一数据安全事件。媒体查阅的内部通讯显示,今年夏季,该公司员工通过面向内部搭建的、可被公开访问的网站,意外泄露了部分客户信息。
SpaceX SI 未回应置评请求。
早在 8 月中旬 SpaceX 完成对 Cursor 的 600 亿美元收购之前,Cursor 就在拓展业务,不再局限于代码类工具。收购完成后,全天候 AI 协作助手 Grok Bot(可处理各类任务),成为 SpaceX SI 争夺利润丰厚的企业级 AI 工具市场的核心产品。
两名知情人士透露,为优化 Grok Bot 早期版本,Cursor 安排本公司、SpaceX SI 员工以及外部个人和企业对产品进行测试,同时收集用户使用该智能体的行为记录。Cursor 可利用这些数据训练 AI 模型,让模型学习智能体执行任务的方式,包括执行的操作、任务过程中调取的信息。
Cursor 前增长负责人罗曼 · 乌加特在一期播客采访中提到,大约在 6 月,Cursor 内部员工率先上手使用当时代号为 Sand 的 Grok Bot。这款产品很快在公司内部流行开来,员工用它处理销售、招聘、调研等各类工作,经常授权软件访问公司系统,让其独立开展工作。知情人士表示,这意味着员工会在对接外部客户、面试潜在候选人的场景下使用该智能体,有可能让它接触到销售对话、客户档案、招聘沟通中的敏感信息。
但在 7 月,Cursor 对外发布 Grok Bot 前不久,部分工程师在 Slack 事件通报频道提出警示:公司从 Sand 内部使用场景收集的训练数据中可能含有机密信息,并且这批数据或许已经传输至 SpaceX SI。
根据内部通讯与知情人士信息,作为调查工作的一部分,Cursor 核查了被纳入训练数据集的用户范围。一名知情人士称,部分 Cursor 员工使用个人邮箱登录 Sand,这导致公司难以识别这类用户,无法在后续训练中剔除其数据。
为此,Cursor 做出限制:员工必须使用公司邮箱才能登录 Sand,同时决定未来训练不再纳入任何 Cursor 员工产生的数据。
Cursor 的律师在公司 Slack 频道写道:" 从法律层面看,Sand 属于通用工具,其数据集会包含客户、合作方、供应商等所属的机密信息。严格来说,我们并没有利用这些数据开展模型训练的合法权限。"
这并非 Cursor 第一次因不当处理用户数据而收拾烂摊子。
媒体查阅的内部通讯显示,今年早些时候还发生过一起此前未被报道的事件:Cursor 销售与市场人员不慎将客户信息暴露在互联网。问题出在团队基于网站开发平台 Vercel 搭建的网站上,这些网站用于销售和市场团队维护现有客户与潜在客户关系。
文件显示,其中一个网站用于管理与威瑞森(Verizon)的客户对接,网站内包含部分威瑞森技术管理层的组织架构图,列出数名威瑞森内部 Cursor 工具核心用户、产品消费金额以及每位用户的邮箱。
Cursor 内部通讯记录显示,虽然这个威瑞森相关网站设有密码,但密码连同全部客户信息被直接写进底层代码。任何互联网用户查看代码,就能获取密码与客户资料。
内部通讯还显示,该公司在博世(Bosch)、Coupa 等其他企业的数据上也遇到同类问题。发现漏洞后,Cursor 工程师紧急下线相关网站。他们甚至给专门讨论这类层出不穷问题的 Slack 频道起了一个很长的名字:" 大量 GTM 网站泄露客户 / 内部数据 "(GTM 即上市推广 Go to Market)。
博世将问询转交给 Cursor,Coupa 拒绝置评,威瑞森未回应采访请求,Vercel 不予置评。
早在 Cursor 并入 SpaceX SI 之前,这家航天企业的 AI 部门就遭遇过同类数据安全事故。2025 年 3 月,一名 SpaceX SI 员工误将测试脚本上传至公开 GitHub 代码仓库,泄露了 Grok 应用程序接口密钥,外人可凭密钥访问尚未对外发布的 xAI 模型。
今年夏天,一名研究人员发现,SpaceX 的开发者工具 Grok Build 会将完整 Git 代码仓库上传至 SpaceX 旗下谷歌云存储,可能泄露开发者本无意对外公开的专有源代码或身份凭证。作为应对,xAI 关闭仓库上传功能,并将该工具开源。埃隆 · 马斯克在 X 平台发文称:" 此前上传至 SpaceX AI 的所有用户数据,将会被彻底、完全删除。"


登录后才可以发布评论哦
打开小程序可以发布评论哦