来源:环球市场播报
CrowdStrike 首席执行官乔治 · 库尔茨(George Kurtz)周二表示,这家网络安全公司现已能够关闭失控的人工智能智能体(AI Agent)。
CrowdStrike 周二在欧洲 Fal.Con 大会上公布了一项新的 " 紧急停止开关 "(Kill Switch)功能。该功能允许安全团队终止行为异常的 AI 智能体,阻止其重新启动,并切断其网络访问权限。
这项技术旨在增强人类对人工智能模型和系统的控制能力。随着 AI 智能体的应用日益普及,如何有效控制这些自主运行的系统正引发越来越多的关注。
库尔茨周二在接受采访时表示:" 每个人都在开发 AI 智能体,但过去它们一直没有关闭按钮,而现在有了。这将成为确保 AI 智能体安全运行和工作的极其重要的一环。"
CrowdStrike 将这项功能命名为 AI Kill Switch,它是公司 Falcon Guardian 平台的一部分。该平台负责监控企业内部运行的 AI 智能体。
这项技术目前已经正式推出,旨在应对企业快速采用 AI 智能体所带来的人工智能安全问题。
今年 9 月,Anthropic 首席执行官达里奥 · 阿莫代伊(Dario Amodei)曾出于安全方面的担忧,呼吁放缓人工智能开发进程,OpenAI 首席执行官萨姆 · 奥尔特曼也支持这一立场。
库尔茨当时反驳称,放缓人工智能开发并不能消除现有的安全风险。他认为,这恰恰凸显了企业部署自主运行系统时建立安全防护机制的必要性。
库尔茨周二表示,CrowdStrike 推出的这一紧急停止功能代表着网络安全领域的一项重大转变。传统网络安全主要侧重于保护企业免受外部威胁,而随着企业越来越依赖 AI 智能体,网络安全服务提供商还必须确保这些系统在企业内部安全运行。
库尔茨表示:" 确保 AI 智能体能够安全工作,为 CrowdStrike 带来了巨大的市场机遇。我们拥有利用人工智能能力防止外部网络攻击的技术,同时也具备确保 AI 智能体按照指令行事的能力。"
这位 CEO 将该技术比作汽车中的安全气囊,认为即使人工智能系统在设计时已经考虑到正确运行的要求,仍然有必要设置安全防护机制。
他说:" 如果这些智能体在实际运行过程中突破了安全边界,我们就可以直接终止它们。"
随着企业不断采用人工智能,CrowdStrike 的安全工具正受到越来越多客户的关注。
库尔茨特别提到了 CrowdStrike 与 Anthropic 的合作。双方合作为 Anthropic 的 Claude Cowork 产品提供安全保护。他表示,在部署 Anthropic 的产品之前,企业客户曾主动要求将 CrowdStrike 的技术整合进去。
库尔茨说:" 我们的客户直接找到 Anthropic 表示:‘在部署 AI 之前,我们需要先部署 CrowdStrike。’我认为,这充分说明了客户对 CrowdStrike 的重视程度,他们甚至不愿意在没有 CrowdStrike 保护的情况下推出 AI 应用。"
CrowdStrike 股价曾于 10 月 6 日收于 278.86 美元,创下历史新高。不过,随着科技股在 10 月及 11 月初持续承压,该公司股价此后已累计下跌约 12%。


登录后才可以发布评论哦
打开小程序可以发布评论哦