随着边缘 AI 工作负载的复杂性日益增加,大模型推理需要更高效的边缘设备,如智能摄像头实时识别、工业设备预测性维护等等。与此同时,MTE、PAC 等安全特性可能成为物联网设备的 " 标配 ",尤其在工业控制、关键基础设施领域,推动行业向更高安全等级演进。
基于物联网领域对 AI 转型需求的不断增长。2 月 27 日,Arm 发布 Arm ® v9 边缘人工智能 ( AI ) 计算平台。
该平台以全新的 Arm Cortex ® -A320 CPU 和边缘 AI 加速器 Arm Ethos ™ -U85 NPU 为核心,可支持运行超 10 亿参数的端侧 AI 模型。随着边缘 AI 在 Arm 平台上持续集成,这一全新产品的加入使 Arm 现已能为物联网提供最为先进的 Armv9 Cortex 处理器系列,覆盖从极致性能到成本和能效受限的设备。
Arm 物联网事业部软件产品管理总监 Christophe Fava-Rivi 表示:" 当今的物联网 ( IoT ) 环境对边缘设备的需求更胜以往。智能摄像头需要在本地运行复杂的计算机视觉算法;工业传感器须处理复杂的机器学习 ( ML ) 模型以进行预测性维护;即使是简单的端点设备,也越来越离不开增强的安全性和虚拟化功能。这些不断变化的需求使得 Armv9 的先进功能不再只是锦上添花,而是新一代物联网创新的必备条件。"
Cortex-A320 作为新型边缘 AI 计算平台的推出标志着边缘计算发展的重要里程碑,充分发挥了 Armv9 架构的优势,如针对 ML 性能的 SVE2。相较于前代产品 Cortex-A35,Cortex-A320 的 ML 性能提升了十倍,标量性能提升了 30%。
该平台能够支持基于智能体的 AI 应用上运行经过调优的大语言模型 ( LLM ) 和小语言模型 ( SLM ) ,从而开辟全新类别的边缘应用场景。在未来的场景中,智能决策将更接近数据采集源头,这不仅能显著减少延迟,还能有效提升隐私保护水平。其采用的 Armv9.2 架构还为最小的 Cortex-A 设备带来了高级的安全功能,例如指针验证 ( PAC ) 、分支目标识别 ( BTI ) 和内存标记扩展 ( MTE ) 。这些功能至关重要,因为边缘设备通常在暴露的环境中运行并处理敏感数据。
目前,该平台已受到了包括亚马逊云科技 ( AWS ) 、西门子、瑞萨电子、研华科技和 Eurotech 在内的多家合作伙伴的支持。
Arm 物联网事业部业务拓展副总裁马健表示:" 边缘 AI 需要更卓越的计算性能、更强大的安全性,以及更出色的软件灵活性。得益于广泛的开源 Linux 支持、强大的安全生态系统,以及 Armv9 架构所取得的关键进展,Cortex-A320 可确保与边缘侧和基础设施设备兼容,同时具备出色能效和可扩展性。帮助中国企业客户利用 Arm 的技术获得物联网 AI 领域的优势。"
她认为:"AI 的未来趋势将转向边缘,而全新 Arm 边缘 AI 计算平台将成为新一轮物联网创新的催化剂。Armv9 架构的特性、先进的 AI 功能和全面软件支持的结合,为 OEM 厂商和开发者创造了新的可能性。通过结合 Arm 的 A 处理器架构及相关的软件生态系统,并在高能效和灵活性支持下,Cortex-A320 为物联网领域的各个细分市场提供了卓越的可扩展性和多样化。"
通过 " 性能 + 能效 + 安全 + 生态 " 四位一体的创新,Arm 的 AI 边缘计算平台不仅解决了物联网设备在复杂 AI 任务处理中的瓶颈,更重新定义了边缘智能的可行性边界。其技术优势与产业合作将加速边缘 AI 从概念走向规模化应用,为工业自动化、智能家居、智慧城市等领域的数字化转型提供核心驱动力,同时推动全球物联网生态向更高性能、更安全可靠的方向演进。
登录后才可以发布评论哦
打开小程序可以发布评论哦