智东西 07-28
云天励飞宣布全面聚焦AI推理芯片!要支撑万亿参数大模型
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

智东西

作者 | ZeR0

编辑 | 漠影

国产 AI 芯片正处于重要的历史机遇窗口。

今年的模型创新仿佛踩上风火轮,开源模型密集发布更新,进一步引爆推理需求增长。AI 推理芯片将在接下来的 AI 产业发展进程中扮演更加重要的角色。

在世界人工智能大会期间,云天励飞公布全面聚焦 AI 芯片的最新战略,并披露最新 AI 芯片全产品矩阵及未来三年商用路线图,计划到 2028 年将单芯片算力最高扩展至数千 TOPS。

凭借创新的 " 算力积木 " 架构,云天励飞 AI 芯片能实现 7B、14B、130B、671B 等不同参数量大模型的高效推理,适配 DeepSeek-R1 系列模型、阿里 QwQ-32B 模型及国产鸿蒙操作系统。云天励飞 CTO 李爱军告诉智东西,包括 DeepSeek、Qwen 模型在内,云天励飞 AI 芯片与主流开源模型均已完成适配。

特别的是,云天励飞打造的是 " 纯血版国产工艺 AI 芯片 ",而且实现端边云 " 三栖 " 落地,应用场景小到嵌入式硬件,中到边缘计算与具身智能,大到万亿参数大模型。

在具身智能领域,云天励飞已与十余家机器人厂商建立合作关系,边缘芯片产品应用于服务型机器人已进入实际部署阶段。该公司还作为创始股东之一,参与投资了深圳国创具身智能机器人有限公司,探索 AI 推理芯片在具身智能等未来前沿方向的应用和落地。

值此时机,云天励飞为何全面聚焦 AI 芯片?又如何在日趋激烈的 AI 芯片竞赛突出重围?云天励飞董事长兼 CEO 陈宁博士、云天励飞 CTO 李爱军与智东西进行了深入交流。

一、风起大模型,解读 AI 推理风向与历史性机遇

云天励飞董事长兼 CEO 陈宁博士谈道,2030 年是全球公认的 AGI(通用人工智能)可能实现重大突破的一个转折时间点。

2025 年上半年,AI 应用落地提速,Agent 成本的降低将带来应用普惠,随着 AI 应用无处不在,全球 AI 将从训练时代进入以应用驱动为核心的推理时代。

过去十多年,AI 领域经历了以训练为核心的 GPU 时代——通过训练大规模模型获取基础能力,类似于电力时代的 " 发电 ",注重大规模生产算力。

而 AI 推理芯片的关键在于 " 用电 ",即在终端及云边端以低成本、高效率完成推理运算,更关注成本效率及规模化应用,不像训练芯片那样依赖 CUDA。

在此背景下,AI 推理芯片的重要性逐渐上升,成为推动 AI 技术应用落地及与商业化的核心驱动力。

陈宁认为,AI 推理芯片不仅在推理效率、能效方面具有重大优势,它们还将作为智能硬件、机器人、智能设备等终端产品的 " 引擎 ",成为 AI 产业大规模应用的核心基础。

AI 推理芯片是中国抢占第四次工业革命的一张关键入场券。随着 2030 年 AGI(通用人工智能)突破的潜在临近,AI 推理芯片能否实现成本、性能和生态的突破,决定了中国能否在新一轮技术浪潮中占据主动。

未来五年,从可穿戴设备、AI 原生硬件、智能终端到算力设备,AI 将重塑所有电子设备,推理算力网络将无处不在,推动推理芯片市场迎来爆发。

在国外先进算力几乎完全禁售的背景下,这将带给国产全自主可控 AI 推理算力巨大市场机会。

经过 10 年积累,云天励飞在 AI 推理芯片技术研发和市场应用上的布局逐渐成熟,选择在 2025 年全面聚焦 AI 推理芯片,抓住这一历史性机遇。

二、围绕 AI 芯片沉淀四大业务板块,端边云支撑高性价比大模型推理

到 2028 年,云天励飞计划研发三代 " 算力积木 " 架构,布局三大商用计算平台(深界、深擎、深穹),算力最高可扩展至数千 TOPS。下一代芯片将基于第二代 " 算力积木 " 架构,通过新型计算、近存计算、NB-Mesh 新型互连、新型封装、NB-Link 通用扩展性五大创新,打造新型大模型推理平台。

· 深穹:大模型推理一体机

· 深界:边缘网关、边缘盒子

· 深擎:机器人 / 无人机 / 无人车

基于国产工艺及自研 " 算力积木 " 架构,其深界 DeepEdge10 平台已适配 DeepSeek、QwQ-32B 模型及鸿蒙操作系统。

云天励飞的整体产品布局围绕自研 AI 推理芯片展开,沉淀出 4 大业务板块,布局端边云,联合生态合作伙伴推出覆盖从模组、边缘推理盒子、AI 推理加速卡、大模型推理一体机、智算服务器等产品。

其产品已广泛应用于智算中心、智慧城市、具身智能机器人等领域。

2024 年 6 月,云天励飞签署《AI 算力运营合作框架协议》,拿到 16 亿元的算力服务大单,提供总算力规模约 4000PFLOPS 的 AI 训练及推理异构算力服务。

面向具身智能和机器人领域,云天励飞战略投资闪极科技、智慧互通、臻识科技、神州云海、国创具身机器人等,为 AI 推理芯片的应用开辟了更多元化的场景。

未来云天励飞 AI 推理芯片计划重点面向三大市场:边缘计算、云端大模型推理、智能机器。

在市场拓展方面,云天励飞获得 16 亿元算力服务大单,显示了其产品在部分关键领域的商业认可度。

三、靠芯片拿到创业 " 第一桶金 ",云天励飞做 AI 芯片的基因与优势

身为一家 AI 公司,云天励飞为什么要自研 AI 推理芯片?答案是通过深入匹配特定应用场景,自研 AI 芯片一旦形成规模化,就能带来更好的成本效益。

据陈宁分享,云天励飞核心创始团队具备深厚的 NPU 芯片设计经验,最早从 2009 年开始参与神经网络处理器相关设计。

该公司的第一笔融资,也来源于芯片。

2014 年,云天励飞刚成立时,初心是通过 NPU 降低 AI 计算成本,当时还用 NPU 课题申报了政府的人才引进项目,还拿下第一,得到研发资金支持。

可以说,芯片,正是云天励飞初期获得投资的关键。

云天励飞在 2015 年启动第一代深度学习处理器的研发,2018 年 -2019 年第二代 AI 芯片 DeepEye1000 流片成功,并且在之后几年中,云天励飞 AI 芯片相继并下国家发改委、科技部、工信部重大专项的 " 大满贯 ",结合自身技术积累及市场需求,逐步发展成集芯片设计、软硬件集成和应用落地于一体的企业。

2020 年 5 月,因被列入美国实体清单,云天励飞不得做出战略调整,坚定转向国产工艺路线。

面对国产工艺尚不成熟的挑战,它首创 " 算力积木 " 架构,并敲定国产先进工艺的合作,成为首家采用国产 Chiplet 工艺的 AI 芯片,自此踏上用国产工艺设计商用 AI 芯片的新阶段。" 算力积木 " 架构通过模块化设计解决单芯片面积与良率的矛盾,以实现算力的可扩展性和商业化应用。

自 2020 年决定转向国产工艺后,云天励飞不仅克服了当时国产工艺的不成熟问题,还通过技术创新实现了算力积木架构的突破。通过自主研发的算力架构和互连技术,云天励飞在推理芯片领域取得了显著的技术进展,并将其成功转化为实际的产品。

此后两年多时间,云天励飞斩获第十届吴文俊人工智能专项奖芯片项目一等奖,发布大模型边缘推理一体芯片深界 DeepEdge10,全面入局大模型推理。

这两年来,云天励飞相继推出 AI 推理芯片深界 DeepEdge200、大模型推理加速卡深穹 6000 及深穹 X6000 Mesh 加速卡,其 DeepSeek 一体机解决方案在深圳龙岗、南山、湛江等城市落地。

结合算力架构演进趋势,云天励飞在过去 10 年研发了 5 代 NPU,技术路径贯穿从小规模 CNN 算法到面向大规模预训练模型的异构计算需求。这些在智能硬件、智算中心、智慧城市等领域积累的 know-how 和经验,为其芯片设计和持续迭代提供了明确指导,形成了算法 - 芯片 - 应用的 " 数据飞轮 " 闭环,推动 AI 和芯片技术持续迭代。

" 算法芯片化 " 一直是云天励飞的核心技术策略,将不断进化的 AI 算法映射至芯片架构,确保算法与硬件高度契合。基于技术与应用双轮驱动,云天励飞旨在提升 AI 推理芯片在性能、成本、功耗及生态兼容等方面的综合竞争力,坚持 " 算法芯片化 " 技术策略。

通过与生态伙伴紧密合作,云天励飞进一步加强了产品的市场适配,尤其是在具身智能和边缘计算领域,确保其 AI 推理芯片能够在不同应用环境中发挥最佳性能。

结语:AI 推理芯片未来,看中国

AI 芯片是智能硬件和算力网络的核心,AI 推理芯片的需求已进入加速期,国产 AI 芯片正面临前所未有的机遇。而中国作为全球 AI 产业重要一环,必须在这一浪潮中抓住核心技术机遇。

云天励飞通过 " 算力积木 " 架构和国产工艺的创新,以及持续的产业积累,提供高效、低成本的 AI 推理芯片产品,逐步打破技术和工程壁垒,满足大模型推理的广泛需求。

随着 AI 推理需求的爆发和国产生态的不断完善,AI 推理芯片的全球竞争预计将更加激烈。国产 AI 芯片的发展不仅依赖于技术突破,更需产业链上下游的协同配合。

面对技术突破及生态构建挑战,云天励飞的战略聚焦将不仅限于技术创新,还要通过推动推理芯片标准化,为国产芯片在全球市场的布局铺平道路。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 云天励飞 芯片 ai芯片 机器人
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论