当地时间 4 月 26 日,OpenAI CEO 萨姆 · 奥尔特曼公开发布了一篇题为《Our principles》(我们的原则)的文章,阐述了该公司在 AI 发展过程中的核心原则与长期目标。
萨姆 · 奥尔特曼开篇便指出,AI 有潜力显著改善社会的许多方面。而且他认为,AI 与之前的其他技术一样,将赋予人们更大的能力和自主权," 人们利用 AI 所能做的事情,将远远超过利用蒸汽机或电力所能做的事情 "。
但萨姆 · 奥尔特曼表示," 一个普遍繁荣的世界 " 并非必然,未来技术权力也有可能集中在少数掌握超级智能的公司和机构手中。对此他强调,OpenAI 的使命是致力于让真正的 AGI(通用人工智能)惠及全人类,而非让技术权力集中在少数人手中。

此外萨姆 · 奥尔特曼还进一步指出,为实现 AGI 普惠的目标,OpenAI 将在工作中遵循民主化(Democratization)、赋权(Empowerment)、普遍繁荣(Universal prosperity)、韧性(韧性)、适应性(Adaptability)等 5 项重要原则。其中,民主化是指 OpenAI 将致力于确保通过民主程序和公平原则制定关于 AI 的关键决策,而不仅仅由少数 AI 实验室决定。
赋权是指 OpenAI 相信 AI 可以赋能每个人实现目标、学习更多知识、获得更快乐和更充实的生活,为此其将给予用户所需的自主权。而且 OpenAI 方面承诺,在保障用户自主权的同时,将以尽可能减少危害的方式构建和部署 AI,包括预防灾难性伤害,减少局部伤害和避免潜在的腐蚀性社会影响等。
普遍繁荣是指 OpenAI 希望未来每个人都能过上美好的生活," 通过让每个人都能使用计算能力强大的易用型 AI 系统,人们将找到创造价值的新方法,并大幅提高每个人的生活质量 "。为实现普遍繁荣目标,OpenAI 方面认为各国可能需要考虑新的经济模式,同时需要建设大量 AI 基础设施并开发新技术以大幅降低成本。
韧性是指 OpenAI 将与其他公司、生态系统、政府和社会各界合作,共同应对潜在的 AI 风险。对此萨姆 · 奥尔特曼表示," 任何 AI 实验室都无法独自确保美好的未来 "。适应性则是指 OpenAI 将根据所掌握的新知识、新信息实时调整自己的发展、应对策略,并坚持透明度原则,积极对外公布相关调整。
萨姆 · 奥尔特曼表示,"AI 的发展带来了诸多惊喜,未来还将有更多惊喜涌现。随着技术的进步,其涌现行为将变得越来越难以预测。我们欣然接受这种不确定性,谨慎地推进各项能力的提升,迭代地部署系统,并从系统与世界的互动中不断学习 "。
【本文图片来自网络】


登录后才可以发布评论哦
打开小程序可以发布评论哦