钛媒体 App 11 月 24 日消息，上海市网信办在执法办案工作中发现，部分企业开发使用生成式人工智能功能，未依法开展安全评估工作、未采取必要的安全防护措施防范违规信息生成、未采取限制措施防止被滥用，导致相关功能被用于 " 换脸变声 "" 变装造假 " 等侵犯他人个人信息权益行为，产出 " 开盒 "" 洗钱 " 等违法违规内容，以及生成色情低俗图片等信息内容。" 亮剑浦江 · 2025" 专项执法行动将 " 整治 AI 滥用 " 作为年度治理重点，以执法促合规护航新兴产业高质量发展。（网信上海）