科技快讯网 4小时前
Soul张璐团队Q3安全报告发布:AI风控升级,打造健康社交空间
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

在数字社交日益深入日常生活的当下,平台的生态安全成为公众关注的焦点。前段时间,Soul APP 张璐团队发布《2025 年第三季度生态安全报告》(以下简称 " 报告 "),系统披露了 Soul APP 在社交生态治理、技术防护和社区共治等方面的最新进展。

报告显示,Soul APP 已将生态安全治理纳入企业战略重点,通过 " 技术 + 制度 + 教育 " 三维体系建设,不断完善风险识别与处置机制,持续提升用户社交体验的安全性。

Soul 在第三季度持续深化人工智能在安全领域的应用,全面强化平台风险识别能力。通过对 AI 风控体系的迭代优化,平台实现了更精准的违规内容识别与拦截,提升了前端防护与中端处置效率。在反欺诈方面,Soul 基于 AI 大模型对图片识别系统进行了深度优化,使识别覆盖率提升到 90% 以上。经过迭代后,平台的图片反欺诈模型已能覆盖主流图片生产场景,形成针对诈骗内容的高效防线。

与此同时,Soul 针对高风险人设识别模型进行了优化,识别覆盖率较此前提升超过 20 个百分点。系统能够在社交关系形成前识别潜在风险,提前预警可疑人设,从而将安全隐患阻断于初期阶段。此外,Soul 持续保持与监管部门及公安机关的协作,Q3 季度向全国范围推送超百条违法有害线索并参与多项警企联合行动,形成了科技治理与社会治理的合力。

报告显示,Soul 在第三季度上线并迭代了 20 余项私聊安全策略,重点加强了用户自主防护与风险提醒机制。其中," 消息自见策略 " 成功帮助超 4.3 万名用户免受骚扰信息干扰。针对反复违规用户,平台实行私聊功能限制,每日平均处置约 8 万人次。

Soul 张璐团队在三季度还继续强化对网络暴力与不文明行为的治理,形成了 " 技术监测 + 快速处置 + 教育引导 " 的治理闭环。AI 系统可实时监测恶意言论及攻击行为,日均保护超过 3000 名用户免受网络暴力与频繁骚扰;平台日均处理不文明私聊行为超 2000 起,并在交互前端设置文明提醒,每日触发超 21 万次,有效引导用户理性表达、文明沟通。

针对青少年保护,Soul 始终坚持 " 未成年人禁止注册 " 原则,并在技术层面通过 AI 模型强化年龄识别机制。暑期期间,平台人设识别模型在年龄和身份维度的覆盖量提升约 200%,系统可更准确识别疑似未成年用户,并自动引导至青少年模式或进行限制访问。通过算法优化与制度执行相结合,Soul 不断完善青少年网络保护体系,尽力维护社交空间的纯净与安全。

社交生态的健康发展离不开用户的共同参与。在第三季度,平台持续推进 " 社区共建共治 " 机制,通过 " 内容推荐官 "" 风纪委员 " 等角色建设,推动用户参与内容评议与秩序维护。报告显示,目前活跃的社区共建用户已超过 7.8 万人,其中日均内容推荐官活跃用户达 5.1 万人。社区成员每日贡献投票超 2.2 万次,产生优质内容近 3000 条,形成了 " 用户参与治理,治理促进优质内容生产 " 的正向循环。

从 AI 风控到社区共建,从反欺诈治理到青少年保护,Soul 张璐团队始终以科技创新为驱动力,构建了覆盖多场景的社交安全体系。《2025 年第三季度生态安全报告》不仅是一份阶段性的成果披露,更体现了 Soul 在平台责任和用户信任之间的平衡。通过智能防护、制度执行与用户共治的融合,Soul 正在为用户打造一个更加健康的社交空间。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

soul ai 张璐 网络暴力 安全隐患
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论