IT之家 前天
OpenAI扩展零数据留存安全机制,自动化分析跨交互风险
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 8 月 20 日消息,OpenAI 公司今天(8 月 20 日)发布博文,宣布面向符合资格的前沿模型 API 客户,扩展 " 零数据留存 "(Zero Data Retention)服务,自动化系统可识别跨交互风险模式。

IT 之家援引博文介绍,OpenAI 公司强调请求处理完成后,不保留提示词或模型回复,员工无法审阅客户内容,企业数据也不会用于训练模型(除非客户明确选择加入)。

OpenAI 指出随着模型承担更长、更复杂的任务,部分严重安全风险可能要在多轮交互后才会显现。现有兼容 ZDR 的安全系统通常逐条评估交互,难以识别跨对话、跨账户或持续试探安全机制的行为模式。

OpenAI 公司为解决该问题,以预览版的形式推出私密安全处理(Private Safety Processing),该机制会在不让 OpenAI 员工接触底层内容的前提下,利用自动化系统分析关联交互中的风险模式。

该系统适用于客户自行控制基础设施中的内容,也适用于 OpenAI 提供的存储。在后者场景中,客户内容由客户控制的密钥加密,OpenAI 员工不持有这些密钥,因此无法访问底层提示词和回复。

当系统识别出风险后,OpenAI 只会收到范围受限的安全信号,用于说明涉及的活动类型,并据此判断是否需要采取处置措施。

即使内容被标记,员工仍无法查看客户内容。客户可通过自身系统中的信息调查警报和处置决定;如需申诉、说明合法活动,或协助核查已确认的滥用行为,客户可自行选择向 OpenAI 提供相关信息。

OpenAI 称,私密安全处理目前正与早期客户测试。该公司计划于 9 月开始推出该能力,并发布技术白皮书。OpenAI 表示,后续会向客户提前说明更新内容、其对既有承诺的影响,以及客户规划所需的时间和支持。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

自动化 it之家 基础设施
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论