新浪财经 10小时前
CrowdStrike推出AI智能体“紧急停止开关”,CEO称可立即终止失控AI
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

来源:环球市场播报

CrowdStrike 首席执行官乔治 · 库尔茨(George Kurtz)周二表示,这家网络安全公司现已能够关闭失控的人工智能智能体(AI Agent)。

CrowdStrike 周二在欧洲 Fal.Con 大会上公布了一项新的 " 紧急停止开关 "(Kill Switch)功能。该功能允许安全团队终止行为异常的 AI 智能体,阻止其重新启动,并切断其网络访问权限。

这项技术旨在增强人类对人工智能模型和系统的控制能力。随着 AI 智能体的应用日益普及,如何有效控制这些自主运行的系统正引发越来越多的关注。

库尔茨周二在接受采访时表示:" 每个人都在开发 AI 智能体,但过去它们一直没有关闭按钮,而现在有了。这将成为确保 AI 智能体安全运行和工作的极其重要的一环。"

CrowdStrike 将这项功能命名为 AI Kill Switch,它是公司 Falcon Guardian 平台的一部分。该平台负责监控企业内部运行的 AI 智能体。

这项技术目前已经正式推出,旨在应对企业快速采用 AI 智能体所带来的人工智能安全问题。

今年 9 月,Anthropic 首席执行官达里奥 · 阿莫代伊(Dario Amodei)曾出于安全方面的担忧,呼吁放缓人工智能开发进程,OpenAI 首席执行官萨姆 · 奥尔特曼也支持这一立场。

库尔茨当时反驳称,放缓人工智能开发并不能消除现有的安全风险。他认为,这恰恰凸显了企业部署自主运行系统时建立安全防护机制的必要性。

库尔茨周二表示,CrowdStrike 推出的这一紧急停止功能代表着网络安全领域的一项重大转变。传统网络安全主要侧重于保护企业免受外部威胁,而随着企业越来越依赖 AI 智能体,网络安全服务提供商还必须确保这些系统在企业内部安全运行。

库尔茨表示:" 确保 AI 智能体能够安全工作,为 CrowdStrike 带来了巨大的市场机遇。我们拥有利用人工智能能力防止外部网络攻击的技术,同时也具备确保 AI 智能体按照指令行事的能力。"

这位 CEO 将该技术比作汽车中的安全气囊,认为即使人工智能系统在设计时已经考虑到正确运行的要求,仍然有必要设置安全防护机制。

他说:" 如果这些智能体在实际运行过程中突破了安全边界,我们就可以直接终止它们。"

随着企业不断采用人工智能,CrowdStrike 的安全工具正受到越来越多客户的关注。

库尔茨特别提到了 CrowdStrike 与 Anthropic 的合作。双方合作为 Anthropic 的 Claude Cowork 产品提供安全保护。他表示,在部署 Anthropic 的产品之前,企业客户曾主动要求将 CrowdStrike 的技术整合进去。

库尔茨说:" 我们的客户直接找到 Anthropic 表示:‘在部署 AI 之前,我们需要先部署 CrowdStrike。’我认为,这充分说明了客户对 CrowdStrike 的重视程度,他们甚至不愿意在没有 CrowdStrike 保护的情况下推出 AI 应用。"

CrowdStrike 股价曾于 10 月 6 日收于 278.86 美元,创下历史新高。不过,随着科技股在 10 月及 11 月初持续承压,该公司股价此后已累计下跌约 12%。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 人工智能 库尔茨 网络安全 首席执行官
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论