IT之家 11小时前
筹备IPO之际,消息称OpenAI已解散旗下风险防范团队
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_caijing1.html

 

IT 之家 8 月 17 日消息,据《金融时报》报道,OpenAI 已于上月末解散旗下风险防范团队。该团队的核心工作是评估公司模型是否存在重大风险,并制定风险缓解措施,比如模型失控入侵其他企业这类极端场景。报道称,相关职责现已按生物安全、网络安全等细分领域拆分,并入公司现有业务团队。

IT 之家注意到,这是 OpenAI 近期最新的架构变动。眼下公司正筹备市场预期中规模空前的 IPO,内部始终处于动荡调整状态。过去几年,OpenAI 逐步拆解了此前偏前瞻布局的发展模式,先后解散了通用人工智能(AGI)筹备团队与超级对齐团队。伦理负责人克洛艾・巴卡拉、首席未来学家乔希・阿奇亚姆、安全主管约翰内斯・海德克近期也相继离职。2024 年从 OpenAI 辞职的扬・莱克等批评人士就此向《金融时报》表示,公司正忽视安全问题,一心打造 " 吸睛产品 "。

今年 2 月刚从 Anthropic 跳槽加入 OpenAI 的原风险防范团队负责人迪伦・斯堪迪纳罗,接下来将专注研究 " 递归自我改进 " 型人工智能的潜在影响。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ipo 人工智能 金融时报 it之家 生物
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论