手机中国 昨天
DeepMind哈萨比斯呼吁建立AI评估体系 防范前沿模型风险
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

【CNMO 科技消息】谷歌 DeepMind 掌门人德米斯 · 哈萨比斯近日公开撰文,呼吁尽快建立一套针对前沿 AI 模型的审查机制,为即将到来的通用人工智能时代做好准备。他在文章中表示,通用人工智能 " 可能只需几年就会到来 ",而人类必须在此之前拿出应对方案。

人工智能

尽管哈萨比斯对时间表的预测并非首次引发争议——他曾在 2025 年初预测 AI 设计药物将进入人体试验阶段,但这一目标至今未能实现——但他此番的核心论点仍然值得关注。

他在文章中写道:" 我坚信,与 AI 技术风险相关的挑战是可以被共同攻克的,但前提是我们必须给自己留出足够的时间和空间,把这关键的下一步走对。目前,无论是在行业内还是整个社会层面,我们都还没有做到这一点。"

哈萨比斯提议美国参照金融业监管局 FINRA 的模式,创建一个专门评估前沿 AI 模型的标准化机构。该机构将由技术专家和开源社区代表组成董事会,资金来源为 AI 行业自身。哈

萨比斯认为,这一机制既能吸引全球顶尖技术人才,又能确保机构拥有足够的算力来执行各类前沿模型测试任务。该机构的核心职能将包括:制定前沿 AI 模型评估协议、建立评判基准,以及明确 " 前沿模型 " 的定义标准。

被认定为 " 前沿模型 " 的开发机构将被归类为 " 前沿实验室 ",并被鼓励遵循一系列最佳实践,包括发布模型技术说明卡、维护强有力的内部网络安全、对关键人员进行背景审查,以及为安全研究提供充足资源等。

哈萨比斯提议,初期阶段前沿实验室可自愿选择是否提交模型供审查,提交时间窗口为正式发布前 30 天。待评估协议成熟后,该机构应逐步建立独立于前沿实验室的基准测试能力,避免出现 " 过度拟合 " 问题。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 人工智能 deepmind 美国 技术人才
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论