
小红书紫金财经 3 月 10 日消息 近日,国内社交媒体与人工智能应用领域相继出现重要动态。内容社区平台小红书 " 薯管家 " 官方账号发布公告,宣布对 "AI 托管运营账号 " 进行治理,旨在维护内容真实性。
此前,工业和信息化部网络安全威胁和漏洞信息共享平台发布预警,提示开源 ai 智能 OpenClaw(俗称 " 龙虾 ")在默认或不当配置情况下存在较高安全风险。OpenClaw 的部分实例可能因权限控制不足或配置缺陷,引发网络攻击、信息泄露等安全问题。
3 月 10 日,小红书官方发布《关于打击 AI 托管运营账号的治理公告》。公告指出,平台近期发现部分用户采用 AI 托管模式运营账号,通过技术手段自动生成内容、发布笔记,并在评论、私信等场景模拟真人互动。
平台明确,严格禁止任何利用技术手段模拟真人、进行非真实创作或虚假互动的行为,并宣布即日起实行分级治理措施:
1、对于普通账号偶发使用 AI 托管代写、代发笔记或进行互动,平台将根据违规程度,采取警告、限制内容分发等梯度处理措施。
2、对于直接通过 AI 托管工具注册、发布、互动的账号,或主页所有公开笔记均为 AI 托管代发的账号,平台将予以封禁处理。
此举被业内视为平台对内容生态 " 真实性 " 底线的再次强化。小红书方面在公告中强调,鼓励用户利用 AI 工具进行创作辅助,但坚决抵制利用技术伪造身份、制造虚假流量和互动数据的行为。
近期,一款名为 OpenClaw 的 AI 智能体在技术社区引发热潮。其能够模拟用户操作电脑,自动执行信息搜集、数据整理、报告生成等任务,被形象地称为 " 数字员工 " 或 " 龙虾 "。上个周末,深圳腾讯大厦前出现的近千人排队等候技术专家协助部署,到相关工具下载量激增,显示出市场对自动化生产力工具的迫切需求。
然而,技术普及伴随风险。工信部在近期的网络安全预警中明确指出,此类具有高自主性的 AI 智能体,在默认配置或配置不当时,极易成为网络安全薄弱环节。
紫金财经认为,这标志着行业发展进入新阶段:从追求 " 用得上 " 转向保障 " 用得好、用得安全 "。技术的易得性不能以牺牲内容真实性与网络安全为代价。未来,能够将 " 易用性 "、" 合规性 " 与 " 安全性 " 深度融合的产品与平台,将在竞争中赢得更大优势。
小红书的治理行动与工信部的安全预警,共同指向了人工智能深度融入社会经济生活后必须解决的核心命题:在享受技术带来的效率革命与体验升级的同时,如何筑牢内容的真实底线与网络的安全防线。这对于广大用户、企业与开发者而言,意味着在拥抱 "AI 伙伴 " 时,必须同步树立起规范使用与安全防护的意识。


登录后才可以发布评论哦
打开小程序可以发布评论哦