近期，埃隆 · 马斯克旗下人工智能公司 xAI 被推上风口浪尖。

因平台监管严重缺失，xAI 旗下聊天机器人 " 格罗克 "（Grok）被广泛滥用于生成色情内容，甚至涉及儿童色情内容，遭到英国、欧盟、印尼等多国强烈谴责，相关监管机构已相继启动调查或实施封禁。

据新华社报道，" 格罗克 " 由 xAI 公司开发，并内置于马斯克旗下的社交媒体 X 平台，用户可直接调用。近期，部分用户利用 " 格罗克 " 编辑图片和视频的功能，伪造涉真实人物的性暴露内容，并在 X 平台上传播。受害者包括多名成年女性和未成年人。

xAI 面临多国调查及封禁，为 "AI 色情裸奔 " 敲响警钟。

" 无论是出于对弱势群体的保护，还是对社会秩序的维护对生成式 AI 施加防护栏 ( Guardrails ) 是不可逆转的共识。" 上海社会科学院信息研究所所长刘炜在接受 21 世纪经济报道记者采访时表示。

Grok 成 AI 色情重灾区

xAI 于 2025 年 8 月向付费用户推出 AI 图像生成功能 Grok Imagine，支持用户通过文字指令或上传图片来生成图像和视频。该工具还特别设置了 " 火辣模式 "（spicy），可生成成人内容。

X 平台上大量用户利用相关功能对图像中人物执行 " 脱衣服 "、" 给她穿上比基尼 " 等指令，导致大量女性、公众人物甚至未成年人的照片，在未经本人同意的情况下被生成裸露图像或性暗示图像。

去年底，随着 Grok 开始大量响应用户修改他人发布图像的请求，乱象迅速扩大，X 沦为 AI 色情重灾区。

据环球时报援引英国《卫报》报道，Grok 的用户群体平均每小时要生成 6700 多张 " 脱衣 " 图像。

其中，大量生成图像的素材源自真人，且未经当事人同意。英国三一学院的一项社交媒体研究显示，在社交平台 X 上由 Grok 生成的图像有 3/4 的部分均出自 " 真实素材 "，即真实存在的女性或未成年人，且 Grok 对他们所进行的 " 变装 " 操作未经当事人同意。

相比谷歌的 Veo、OpenAI 的 Sora 等其他 AI 视频生成产品对 NSFW 内容（Not Safe For Work：多指裸露、暴力、色情或冒犯等不适宜公众场合的内容）设有较严格的限制，xAI 及其旗下产品 Grok Imagine 和 AI 伴侣 Ani，一直因安全护栏宽松而备受外界批评。

在刘炜看来，马斯克一贯深谙流量才是真正的生命线，而争议则是最好的催化剂。允许 Grok 生成那些 ChatGPT 拒绝生成的边缘内容，实上是为 X Premium 服务提供了一种隐秘的 " 荷尔蒙 "。

刘炜认为，马斯克的利益动机显然是通过监管套利 ( Regulatory Arbitrage ) ，收割那些被主流 AI 平台拒之门外的用户需求。

多国监管介入

综合新华社及环球时报消息，Grok 的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注，多国政府对其表达谴责并展开调查。

印度尼西亚政府 1 月 10 日宣布暂时封禁 Grok，认为它已 " 严重侵犯人权尊严以及公民网络安全 "。印尼通信和数字事务部长默蒂娅 · 哈菲兹 10 日在一份声明中表示，此举对于保护公众免受人工智能生成的露骨图像所带来的危害是必要的，并要求马斯克旗下的社交媒体 X 平台就 " 格罗克 " 所引发的负面影响尽快作出说明。

英国首相斯塔默痛斥 Grok 相关内容 " 令人不齿 "" 令人作呕 "。英国通信管理局 1 月 5 日表示，已紧急联系 X 平台。

欧盟委员会发言人托马斯 · 雷尼耶指出，这类内容无关 " 火辣 "，就是赤裸裸的 " 违法 "，它们在欧盟不应具备生存空间。他表示，正严肃调查针对 " 格罗克 " 的相关投诉，欧盟委员会要求 X 平台提供更多信息。

法国巴黎检方 1 月 2 日对媒体证实，将对 Grok 涉嫌生成非法色情内容启动调查。

此外，据新华社报道，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对 X 平台表示谴责，并呼吁展开调查。

" 裸奔 " 的 AI 与 " 数字污染 " 的监管红线

当 AI 在失管状态下被滥用于侵犯他人权利，毫无顾忌地沦为网络霸凌与性剥削滋生和传播温床，这无异于对伦理底线的公然践踏。同时，这也径直撞上了各国对于 " 数字污染 " 的监管红线。

刘炜指出，Grok 生成的不仅仅是普通的成人内容，而是涉及无大模型防护栏下的深度伪造（Deepfake）和儿童性剥削或虐待材料 ( CSAM ) 。这种危害不仅在于对当事人（如泰勒 · 斯威夫特等名人）肖像权的侵犯，更在于它模糊了现实与虚构的边界，可能成为网络霸凌和性剥削的廉价 " 核武器 "。

" 未经授权使用他人面部特征生成的色情内容，无论其技术多么高超，本质上都是一种暴力。" 刘炜称。

据环球时报报道，在谴责声浪与监管压力下， Grok 日前仅做出小幅调整：将图像生成与编辑功能设置为 " 仅限付费用户使用 "，并鼓励平台用户积极订阅、解锁相关功能。

对此，据新华社报道，英国科学、创新和技术大臣莉兹 · 肯德尔称，Grok 允许用户付费后还继续生成 " 深度伪造 " 色情内容的行为是具有 " 侮辱性的 "，" 完全不可接受 "。

另据新华社报道，X 平台在一篇帖子中声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作。

刘炜认为，对于 X 而言，继续在法律和道德的边缘试探，或许能换来一时的狂热信徒和订阅收入，但最终将导致其在全球主要市场的全面瘫痪。

"X 平台面临的封禁是一个明确的信号：‘自由’是有代价的，而马斯克正在为此收到账单。无论是出于对弱势群体的保护，还是对社会秩序的维护，对生成式 AI 施加防护栏 ( Guardrails ) 是不可逆转的共识。" 刘炜表示。