在生成式 AI 广泛渗透社交网络的当下,技术不仅重塑着用户体验,也对平台安全提出更高要求。在此背景下,Soul App 正在以 AI 能力为核心,通过技术手段、警企协作及社区参与等多维机制,逐步构建起兼顾效率与温度的社交安全防线。近期,Soul APP 创始人张璐团队发布《2025 生态安全半年报》(以下简称 " 报告 "),全面披露了其在平台安全治理方面的系统建设与阶段成效。
报告指出,在面对网络诈骗、低俗内容、信息造假等复杂多变的网络生态挑战时,Soul APP 不断加码 AI 技术投入,通过图文识别与行为建模双重引擎,构建起覆盖 " 识别 - 预警 - 拦截 " 各环节的全链路防护机制。其中,两大核心模型—— " 图片 / 文本反作弊模型 " 与 " 杀猪盘发帖文案识别模型 " 的部署,使诈骗文本变体和图像伪装的识别效率大幅提升。与此同时,Soul APP 引入 AI 助手参与用户对话风控,在系统识别可疑行为后,能够即时提示用户潜在风险。
这些升级不仅提升了识别效率,也大幅提高了黑产组织绕过平台风控识别的对抗成本。数据显示,平台涉诈用户数量较此前下降近 20%。得益于 AI 大模型和 Soul APP 与公安机关持续深化的协作机制,平台在半年内协助警方查明案件 20 余次,推送涉黑线索 25 条、网络谣言线索 50 条,并响应警方调证请求 80 余次。
除了诈骗打击,Soul APP 在平台社交治理方面也持续推进多维优化。围绕违规内容识别、骚扰行为处理、低质内容清理和正能量推荐等方面,平台不断优化治理体系。新增上线的反作弊模型已具备识别色情交易变体等新型违规行为的能力,使平台的治理广度与深度进一步拓展。报告显示,Soul APP 已累计拦截违规内容 932 万条,拉黑存在多个违规账号的设备账号 2.1 万个。
在对抗网络暴力方面,Soul APP 创始人张璐团队从技术识别、举报审核、用户教育三方面协同治理。通过 AI 对文字、图片、语音内容进行实时识别,平台可以第一时间对疑似侮辱、人身攻击等行为发出预警。同时,Soul APP 也在优化举报流程,鼓励用户成为平台环境建设的参与者,还通过推送网暴案例、防网暴指南、倡导友善互动声明等形式,强化用户对网络暴力的识别与自我防护意识。报告显示,已有超 43 万人自愿签署友善互动声明,平台每日系统提醒私聊文明发言次数超 21 万次,平均每日保护用户免受网暴侵扰 3956 人。
值得注意的是,Soul APP 也在未成年人保护领域持续深化防护体系建设。平台通过实名核验、年龄识别、防沉迷系统及隐私策略,构建起未成年人全链条保护体系。最新引入的 AI 大模型,能够识别 " 伪装成未成年 " 行为,策略识别的准确率达到 99%,有效防止不适当内容触达未成年群体。
本次报告展现了 Soul APP 在维护生态安全、优化用户体验、建设良性社交环境上的努力,也获得了用户的真实反馈——超八成用户在调研中表示,可以明显感受到平台社交环境的积极变化。
通过这份生态安全半年报,Soul APP 不仅展示了其 AI 赋能下的安全防线构建能力,也再次明确了其在社会责任上的坚持。在 Soul APP 创始人张璐团队的带领下,平台正以稳健步伐推进系统性治理,为广大用户持续营造一个更安全、健康、有温度的社交空间。
登录后才可以发布评论哦
打开小程序可以发布评论哦