IT之家 09-18
“AI教父”辛顿参与联署公开信:科技巨头应保证第三方评估人员工作无干预、受保护
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_guoji1.html

 

IT 之家 9 月 18 日消息,据《商业内幕》今天(18 日)晚间报道,由多家监督组织组成的 AI 评估机构论坛发布了一封公开信,为第三方风险评估划出一套最低条件,认为 Anthropic 和 OpenAI 等 AI 实验室只有满足特定的要求,才能与外部评估机构开展更有效的合作。

公开信获得数十名 AI 领域人士联署,包括 "AI 教父 " 计算机科学先驱杰弗里 · 辛顿和斯图尔特 · 罗素。

本周,网络上对 AI 风险的担忧迅速升温。Anthropic CEO 达里奥 · 阿莫迪和 OpenAI CEO 萨姆 · 奥尔特曼此前都承诺向第三方评估人员开放公司内部资源并评估 AI 风险,获得与员工同等级别的信息访问权限。

AI 评估机构论坛的公开信正是对此作出回应。" 要具备公信力,驻场第三方评估人员必须保持科学客观性、透明度和独立性,并得到充分保护,免受被评估企业干预。"

IT 之家获悉,论坛认为,第三方评估人员不仅应获准公开透明地开展工作,还应能够直接与公司董事会及其他拥有特殊监督权限的机构沟通,不受企业过滤或限制,并有权公开发布评估结果。

这些评估人员还应受到保护,避免因评估工作遭到 AI 实验室报复,同时获得与企业内部评估人员相同的系统、数据、工具和实体场所访问权限。

公开信还主张,每家 AI 实验室都应引入观点和专业背景不同的评估人员,以覆盖生物科学风险、AI 失控风险等多种风险领域。

本周早些时候,其他科技行业领袖也加入了这场讨论。微软 CEO 萨提亚 · 纳德拉称,公司欢迎让第三方评估人员直接进驻 AI 企业开展评估的构想。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 教父 it之家 杰弗里 董事会
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论