钛媒体快报 18小时前
微软CEO纳德拉警告AI模型或构成“内部风险”,呼吁建立独立管控机制
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

钛媒体 App 10 月 12 日,当地时间 10 月 10 日,微软首席执行官萨蒂亚 · 纳德拉(Satya Nadella)发文称,随着人工智能模型能力增强,企业正赋予其访问敏感数据和执行关键任务的权限,但目前仍难以将模型的具体行为和输出追溯至特定训练数据或模型参数。他呼吁重新审视 AI 时代的信任架构,将前沿闭源及开放权重模型视为潜在的 " 内部风险 ",并在模型之外建立独立的权限管理与安全控制机制。

纳德拉提出,企业应确保模型行为可观测、结果可验证、权限可独立控制,并保留人工随时暂停或关闭模型的能力。他还强调,应建立模型多样性、独立审计和事故及时披露等机制,避免由同一模型同时执行任务并验证自身结果。(广角观察)

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

微软 钛媒体 人工智能 首席执行官 事故
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论