快科技 3 月 14 日消息，抖音近期针对 AI 生成的色情低俗类违规内容展开严厉打击。

针对此类违规行为，平台今年以来已处置相关内容 4.2 万条，对 1.4 万个账号采取限制推荐、禁言、封禁等不同梯度的处罚措施，坚决维护健康的网络环境。

平台巡查发现，部分违规用户借助 AI 技术生成各类低俗擦边内容，还通过多种方式进行色情导流，相关行为均违反了平台自律公约。

其中有黑产团伙利用 AI 生成内容塑造特定人设，发布性感擦边视频并搭配性暗示文案，诱导用户跳转至第三方平台下载色情低俗应用，该团伙 4 人已被依法刑事拘留。

还有部分账号将 AI 生成的美女图片设为直播间封面，引导观众查看主页收藏进而为色情网站导流，平台已对 339 个相关账号无限期回收直播权限。

同时，8421 个持续发布 AI 生成的着装暴露擦边内容的账号，也被平台采取梯度处罚并清理违规内容。

抖音表示，此类色情低俗导流行为已触犯相关法律法规，涉嫌非法利用信息网络罪、传播淫秽物品罪，平台会主动将相关违法线索上报公安机关。

后续抖音还将持续升级治理技术和手段，提升对 AI 生成不良内容的识别处置能力。