雷锋网 05-19
理想汽车×火山引擎:AI智能助手纵深防御体系,为AI系上“安全带”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

        从研发设计到生产制造,从供应链管理到客户服务,智能体正在渗透汽车产业的每一个环节。如何确保其安全、合规、可控,已成为车企的必答题。

        目前,理想汽车已在企业内部部署了多种场景的 AI 智能助手,覆盖安全运营、研发协同、IT   服务等多个真实业务场景。

        理想汽车的安全团队在深入智能体各类使用场景后发现,行业普遍存在三大安全瓶颈:权限边界模糊、行为过程失控、攻击面持续扩大,严重制约着 AI 规模化落地。

        为此,理想汽车与火山引擎围绕AI 助手安全方案开展合作,打造了覆盖 "供应链安全 + 助手运行安全 + 权限行为安全" 的全流程 "AI 智能助手纵深防御体系"。从源头补齐了开源 AI 智能助手的安全短板,同时实现对全量 AI 智能助手的企业级统一安全管理。

纵深防御体系,为 AI 智能助手全面护航

        理想汽车安全团队与火山引擎合作打造的 "AI 智能助手纵深防御体系 " 具备四大核心能力,为每个 AI 助手都系上了可靠的 " 安全带 ":

身份与权限管控—— " 人 +AI" 双主体治理

在执行任务时,同步校验任务的发起人和执行任务的 AI。同时确认两件事:

是谁给 AI 下指令的,这个人是否有权限下该指令?

这个 AI 助手是否有权限访问这个数据 / 系统?

基于 " 人 +AI" 双主体验证,并根据最小权限原则,动态划定 AI 助手可访问的资源范围,从源头杜绝越权与误用。

行为与执行控制——为关键操作设置 " 红绿灯 "

          针对读写文件、修改配置等关键操作,预先设置一套 " 红绿灯 " 约束策略,让 AI 在 " 自动 " 与 " 可控 " 之间找到最佳平衡:

          对高风险操作设置 " 红灯 " 进行拦截,或进入 " 黄灯 " 审批机制,等人工确认后再继续执行。

          对低风险普通操作,AI 直接 " 绿灯 " 执行。

理解与生成安全——守住数据的 " 输入 " 与 " 输出 "

          在输入端,全链路识别并拦截提示词注入攻击,避免恶意指令攻击。

          在输出端,对敏感数据访问与输出做动态脱敏与控制,并阻断异常数据外流。

审计与行为追溯——为每一次 AI 行为留下 " 证据链 "

          完整记录整个链路:包括数据调用、工具执行及内容生成等操作,并区隔哪些 " 人 " 的操作、哪些是 "AI" 的做作,并管控 "AI 自主执行 " 和 "AI 遵从人类指令执行 " 等不同场景。

        发生异常时可快速回放:还原过程、定位问题并进行责任归因。

        基于以上能力,理想汽车的安全运营工程师只需要 " 发号施令 ",AI 智能助手便能在整套安全机制的全程护航下高效执行任务,大幅提升漏洞响应速度,牢牢守住安全底线。

安全能力在实战中持续进化

          目前,在火山引擎与理想汽车安全团队的紧密协作下,"AI 助手纵深防御体系 " 已在多个关键业务场景落地验证,推动 AI 智能助手逐步成长为可参与复杂流程的 " 数字执行单元 "。

        以安全运营场景为例。安全管理员只需要在飞书群中发出指令,即可命令 AI 智能助手创建漏洞修复工单。AI 智能助手可自动读取漏洞库信息、自动扫描代码库并完成漏洞修复与复测,无需人工干预,只需人工授权即可实现一站式漏洞工单的指派与修复闭环工作。

        未来,火山引擎将与理想汽车持续做好 AI 时代企业智能体安全防御工作,保障 " 数字员工 " 安全落地,为企业智能化增长筑牢安全底座。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 供应链 红绿灯 防御体系 安全带
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论