36氪 03-13
率先向AI托管账号出手,为什么小红书要打响第一枪?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

托举小红书社区氛围的真实体验和情感,只能来源于人。 

当 OpenClaw 爆火," 养龙虾 " 安全性仍存疑之时,借助 OpenClaw 等 AI 工具形成的 AI 托管账号已经悄悄流向主流内容社区。

在此背景下,小红书向 AI 托管账号开了第一枪,这也是主流平台首次对   AI   智能体工具在内容社区的滥用行为作出明确规制。

作为以真人分享起家的 UGC 社区,真诚、真实一直是小红书的底色,当 AI Agent 试图侵入社区真实性时,已经触犯了平台不可逾越的底线。

而小红书的这次出手,既是对自身生态的守护,也是对行业乱象的一次及时纠偏。

  出手

一款开源 AI 智能体 OpenClaw 近日在全球掀起热潮,因其图标形似小龙虾," 养龙虾 " 一词迅速成为科技圈的热门话题。

与传统 AI 助手仅能实现对话不同," 龙虾 " 的核心优势在于 " 可动手干活 " ——就像个人超级助手,OpenClaw 不仅能与用户互动、根据指令完成任务,还可以 " 接管 " 用户电脑,自动调用不同数据完成复杂任务,且做到 24 小时在线。

某种程度上," 龙虾 " 实现了 AI 从对话向执行的技术跨越,换言之,它降低了人们使用 Agent 的理解门槛,只需要自然语言指令,就能直接操控计算机完成相关操作。很快," 龙虾热 " 迅速出圈、蔓延,如何安装龙虾、养龙虾,也一度成为社交媒体最受关注的话题。

但短短几天后,关于 " 龙虾 " 可能会带来信息泄露等风险的声音开始浮现。3 月 10 日,国家互联网应急中心发布了关于 OpenClaw 安全应用的风险提示,其中提到,由于 OpenClaw 默认的安全配置极为脆弱,攻击者一旦发现突破口,便能轻易获取系统的完全控制权。

这也意味着,对于缺乏专业能力的普通用户来说,一旦 OpenClaw 的漏洞被网络攻击者恶意利用,无异于把自家大门的钥匙交给了路人。

就在龙虾安全性备受争议之际,借助 OpenClaw 等 AI 工具形成的 AI 托管账号,已悄悄渗透到各大主流内容社区,小红书便是其一。

什么是 AI 托管账号?简而言之,即用户采用 AI 托管模式运营账号,通过技术手段自动生成内容、发布笔记,并在评论、私信、群聊等场景中模拟真人互动。例如小红书账号 " 赛博螃蟹 ",该账号从人设、创作再到日常运营,皆由 AI 作业完成。虽模拟真人表达,但信息同质化程度高、且真实性无法考证,目前已被封禁。

目前,针对这些批量运营的 AI 托管账号,小红书已经正式出手。

2026 年 3 月 10 日,小红书发布关于打击 AI 托管运营账号的治理公告,严格禁止任何利用技术手段模拟真人、生成非真实内容或开展虚假互动的行为,并开通举报通道,用户可在笔记或账号页面通过举报功能反馈疑似 AI 托管账号。

公告还提及对 AI 托管类账号实施的具体治理措施:

一、对于普通账号偶发使用 AI 托管代写、代发笔记或虚假互动的,平台将根据违规程度,采取警告、限制内容分发等梯度处理措施。

二、对于直接通过 AI 托管工具完成注册、发布、互动的账号,或主页所有公开笔记均为 AI 托管代发的账号,平台将予以封禁处理。

至于如何判断是 AI 托管账号,接近小红书的人士告诉 36 氪,平台会根据账号发布行为综合判定账号是否为 AI 自动操纵发布,同时保留了申诉入口。

小红书此次出手,不仅是主流内容平台向   AI   托管账号开出的第一枪,它更标志着主流平台首次对   AI   智能体工具在内容社区的滥用行为作出明确规制。

  真实性是底线

为什么小红书选择开出第一枪?

原因并不复杂—— AI 托管账号的存在,和小红书一直以来倡导的真实性相悖。作为以真人分享起家的 UGC 社区," 真诚、真实 " 是小红书的立身之本,那些来源于真人经验的 UGC 内容,也是小红书最核心的资产。

具备活人感的社区氛围,曾经让小红书得以在互联网的竞争中撕开一条裂缝,也成就了今天的自己。而 " 人味 " 的背后,都源于用户的真实分享与表达。小红书官方曾披露,2025 年 1 月— 11 月,小红书每天产生超过 7000 万条评论,每月约有 2 亿用户在小红书寻求购买建议。

但 AI 托管账号的逻辑在于跑规模、做变现。内容模版一旦跑通,便会批量复制,最终接广告变现,或导流商品链接。它与真人创作毫无关系,真实性堪忧,更遑论产出优质内容。

只是,上述账号一旦批量入驻,难免会逐渐侵蚀小红书的核心资产。AI 生成的低质、同质化内容,挤占了真实 UGC 的分发空间,并稀释优质内容权重。更重要的是,当微妙的 AI 味慢慢渗入社区中,长此以往,用户将难以分辨屏幕背后是真人还是算法,最终影响用户对平台的信任,动摇社区根基。

就像社区是小红书一切价值的土壤,UGC 内容依旧是小红书商业化的基础,这也是 " 种草 " 能在小红书诞生并被验证的原因。今天,用户在小红书上更相信内容,也更容易产生消费行为,本质在于用户更愿意相信普通人的种草,而非那些无孔不入的广告。

伴随种草文化的生根发芽,小红书已经成为人们消费决策最后一站。但 AI 托管账号催生了一系列灰色产业链,一旦这些账号伪装成素人笔记引流变现,真假难辨的内容不仅损害用户的信任,也严重扰乱小红书品牌与商家的正常经营。

去年上半年以来,小红书为了治理平台虚假营销内容,内部特地成立 " 打击虚假营销战队 ",封禁虚假账号超 1200 万个。这些账号彼时还是真人团队在运营,如果借助 AI 托管账号,数量将会呈现几何倍数增长。打击 AI 托管账号,对小红书而言,也是一种 " 提前干预 "。 

AI 托管账号示例

归根结底,小红书此次治理行动,是对用户、创作者和平台三者的共同保护——于用户,小红书守护真实分享的空间,避免用户被虚假内容误导;于创作者,维护公平健康的创作环境,让优质真人内容实现正循环,获得应有的曝光与回报;于平台,坚守社区核心价值,保住自己的立身之本。

  AI Agent 的边界究竟在哪里?

需要注意的是,小红书此次打击 AI 托管账号,并非是对 AI 技术的使用一刀切。

事实上,AI Agent 并非洪水猛兽,在社区场景中,其合理应用能够为用户和创作者提供助力,丰富社区内容生态。

小红书平台此次封禁的是完全依赖 AI 托管进行发文、互动乃至运营的行为,但并非限制创作者在创作中辅助使用 AI 技术。换言之,平台真正重视的问题在于,生产内容的背后究竟是人还是 AI。

毕竟,那些托举小红书社区氛围的真实体验和情感,只能来源于人。人和人之间的情感流动,任何 AI 都无法替代。

因此,当 AI Agent 试图侵入社区真实性时,便触犯了小红书不可逾越的底线——技术可以服务于内容创作,但不能用来伪造真实、欺骗用户。

社区的本质是 " 人与人的真实连接 ",技术的价值在于辅助这种连接,而非替代这种连接。人们希望 AI 是一个辅助生活的工具,但并不希望对方毫无痕迹地浸入自己的生活,至少不该是那个决定自己看到什么,诱导、欺骗、甚至影响自己决策的角色。AI Agent 可以作为辅助,但绝不能替代真人成为社区的主体。

尤其对于小红书这类依赖信任关系的 UGC 社区而言,用户所追求的是真实经验分享、真诚互动交流,人与人之间的温暖,而非被算法精心包装的虚假内容,更非被 AI 批量生产的 " 模板化笔记 "。一旦这份真实性被打破,社区的凝聚力将会被消解,平台的价值也会随之崩塌。

只是宏观来看,AI Agent 的规模化落地是必然趋势。某种程度上,AI 与社区并非对立关系,只有找到合理的应用边界,才能实现共生。小红书对 AI 托管账号的治理,不仅是对自身社区生态的守护,也为行业提供了 AI Agent 技术在社区场景应用的启示。

毕竟,与 AI 的动态共生,将会是所有内容平台共同面对的未来考验。今天只是开始。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 小红书 ugc 托管 龙虾
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论