一文速览第六届 2024 全球 AI 芯片峰会首日精华！

作者   |   GACS

芯东西 9 月 6 日报道，一年一度的全球 AI 芯片峰会（GACS 2024）今日在北京火爆开幕。现场座无虚席，云直播全网观看人数达到 120 万人次。

▲会场内和场外展台人潮涌动

大会由智一科技旗下芯东西联合智猩猩发起主办，以「智算纪元 共筑芯路」为主题，邀请 50+ 位嘉宾来自 AI 芯片、Chiplet、RISC-V、智算集群、AI Infra 等领域的嘉宾与会作干货分享。

正值国产 GPGPU 独角兽壁仞科技成立五周年，会上，壁仞科技宣布取得多芯混训核心技术突破，打造出异构 GPU 协同训练方案 HGCT，业界首次能够支持 3 种及以上异构 GPU 训练同一个大模型。

▲壁仞科技推出国产异构 GPU 协同训练方案 HGCT

智一科技联合创始人、CEO 龚伦常作为主办方发表致辞，今年是全球 AI 芯片峰会举办的第七年，峰会已成为国内在该领域里最有影响力的行业会议，是了解国内外 AI 芯片发展动态的重要窗口。

▲智一科技联合创始人、CEO 龚伦常

全球 AI 芯片峰会为期两日，主会场包括开幕式和三大专场（AI 芯片架构、数据中心 AI 芯片、边缘端 AI 芯片），分会场包括 Chiplet 技术论坛、智算集群技术论坛和 RISC-V 创新论坛。

在开幕式上，清华大学教授、集成电路学院副院长尹首一以《高算力芯片发展路径探讨：从计算架构到集成架构》为题进行主题报告，系统性复盘了高算力芯片存在的技术挑战，并全面分析五条创新技术路径：数据流芯片、存算一体芯片、可重构芯片、三维集成芯片、晶圆级芯片。

今日有 21 位来自顶尖高校及科研院所、AI 芯片企业的专家、创业者及高管进行分享。其中，高端对话环节邀请了三家 AI 芯片创企代表激情交辩，分别是国产大算力芯片独角兽壁仞科技、端侧与边缘侧 AI 芯片独角兽爱芯元智，还有一家仅创立半年的年轻 AI 芯片创企凌川科技。他们集中探讨了 AI 芯片产业现状、最新实践与进阶方向。

01.

破解大模型算力供需挑战，

架构创新突围性能瓶颈

清华大学教授、集成电路学院副院长尹首一解读了大模型时代算力供需间的困难：芯片工艺面临 Scaling-down 极限，致使工艺红利带来的算力提升难以为继；系统面临 Scaling-out 瓶颈，通信带宽不足导致系统性能损失。

破解这两大难题的机会在于算力芯片计算架构和集成架构的联合创新：计算架构创新使每个晶体管都被充分利用、发挥更强算力；集成架构创新使芯片规模能够突破极限。

当前高算力芯片发展有五条新技术路径：数据流芯片、可重构芯片、存算一体芯片、三维集成芯片、晶圆级芯片。这些路径都不完全依赖于最先进的制造工艺，有助于为国内芯片产业开辟算力提升新空间。

▲清华大学教授、集成电路学院副院长尹首一

AMD 在端到端的 AI 基础设施领域打造了全面的产品线，覆盖从数据中心服务器、AI PC 到智能嵌入式和边缘设备，并提供领先的 AI 开源软件及开放的生态系统。AMD 基于先进 ZEN4 架构设计的 CPU 处理器平台、基于 CDNA3 架构面向 AI 推理 & 训练的 MI 系列加速器，已被微软等巨头采用。

据 AMD 人工智能事业部高级总监王宏强分享，AMD 还在推动数据中心高性能网络基础设施（UALink，Ultra Ethernet），这对 AI 网络结构需要支持快速切换和极低延迟、扩展 AI 数据中心性能至关重要。

AMD 即将发布下一代高性能 AI PC，其基于第二代 XDNA 架构的 Ryzen AI NPU，可提供 50TOPS 算力，将能效比提高至通用架构的 35 倍。在 AI PC 对隐私、安全和数据自主性的推动下，重要的 AI 工作负载开始部署在 PC 上。作为全球领先的 AI 基础设施提供商之一，AMD 愿意携手广大客户与开发者共建变革性未来。

▲ AMD 人工智能事业部高级总监王宏强

自 2015 年以来，高通一直在根据 AI 应用用例的变化，不断革新 NPU 硬件设计。以第三代骁龙 8 为代表，高通 AI 引擎采用集成 CPU、GPU、NPU 等多种处理器的异构计算架构。其中，高通 Hexagon NPU 通过大片上内存、加速器专用电源、微架构升级等设计来优化性能和能效。AI 的用例丰富，算力要求不一，因此异构计算和处理器集成的需求会长期存在，这也将带来峰值性能、能效、成本等方面的一系列提升。

高通的产品线覆盖手机、PC、XR、汽车、IoT 等丰富的边缘侧应用场景，能够支持开发者在不同产品形态中利用高通的 AI 软硬件解决方案进行算法加速，为消费者带来丰富的终端侧 AI 体验和用例。最后，高通 AI 产品技术中国区负责人万卫星还预告，搭载最新的高通 Oryon CPU 的下一代骁龙移动平台，即将在今年 10 月 21-23 日举行的骁龙峰会上发布。

▲高通 AI 产品技术中国区负责人万卫星

苹芯科技联合创始人兼 CEO 杨越拆解了存算一体技术的进阶过程。产业界主流芯片的出现和成长与当下计算需求的特点紧密相关，2015 年前后，计算体系结构中的计算瓶颈从处理器端向存储端迁移，尤其是神经网络的出现，加快了 AI 芯片计算效率的提升节奏，存算技术因此受到关注。

杨越认为，在大模型时代，存算一体技术的机会是能够在有数据存储的地方都加入计算。随着软件不断发展，基于存算的端侧芯片今年已经逐步成熟。未来，在云端解决数据带宽瓶颈，或将成为存算芯片下一个杀手级应用。

▲苹芯科技联合创始人兼 CEO 杨越

北极雄芯 CTO 谭展宏谈道，在高性能计算领域，服务器设计有两种不同的范式：标准服务器形态和定制服务器架构。在标准服务器形态下，北极雄芯关注于在标准约束的面积下，通过合适的芯粒拆分与封装方案，实现更高的性价比；在非标准服务器形态下，提供了晶圆级集成的机会，关注于芯片与系统设计一体化，对服务器与芯片进行协同设计，旨在达到 " 服务器即芯片 " 的目标。

特别地，谭展宏强调了不同芯片的设计有不同的带宽需求，例如在 7nm 以上工艺下，结合部署通信优化，往往不需要很高的互连带宽密度，因此先进封装并不是必需的，基于 2D 的封装即可满足性能需求并实现高性价比方案。北极雄芯基于《芯粒互联接口标准》的 PB-Link IP，正式实现了低封装成本的互连实现，目前已开始对外授权。

▲北极雄芯 CTO 谭展宏

02.

高端对话：国产 AI 芯片造血能力增强，

最年轻创企产品已落地快手

智一科技联合创始人、总编辑张国仁，与壁仞科技副总裁兼 AI 软件首席架构师丁云帆，凌川科技联合创始人、副总裁刘理，爱芯元智联合创始人、副总裁刘建伟，展开了一场以 " 国产 AI 芯片落地的共识、共创与共赢 " 为主题的圆桌对话。

张国仁在圆桌对话开始时称，由智东西、芯东西、智猩猩发起举办六届的 AI 芯片峰会，是国内该领域持续时间最长的专业会议，这几年见证了 AI 芯片和大模型的蓬勃发展，也见证了一批国内造芯 " 新势力 " 的崛起。

▲智一科技联合创始人、总编辑张国仁

丁云帆谈道，大算力芯片是技术密集、人才密集、资金密集的行业。作为市场中已公开融资规模最大的芯片独角兽，壁仞科技拥有顶级人才，第一代产品已量产落地，多个国产 GPU 千卡集群已经落地，能独立造血。但国产芯片行业整体情况仍然不易，生态方面和国外仍有差距。

很多国产 AI 芯片已经开始落地于数据中心、智算中心。在丁云帆看来，英伟达面向国内的产品性价比并不高，国产芯片只要能做出性能、做出性价比，就会有市场。目前国内芯片产业落地消息越来越多、造血能力增强，与英伟达之间的差距会逐渐缩小。

▲壁仞科技副总裁兼 AI 软件首席架构师丁云帆

刘建伟认为，低成本是很重要的部分，企业最终还是要算账，企业对基础设施的投资一定要赚回来。刘理相信后期在具身智能、智能视频等细分赛道，更多企业的进入，将带来比通用产品更高的价值，会压缩英伟达的营收和利润。

凌川科技是最年轻的国内 AI 芯片创企之一，今年 3 月刚成立，已完成一轮融资，目前在售的智能视频处理芯片已落地快手，占快手视频处理领域用量的 99%，大算力推理芯片预计明年初流片。

在刘理看来，距离 AI 芯片市场窗口关闭还很远，面对巨头在资源、资金、生态上的优势，创企需要在垂直、细分领域发力。凌川科技将智能视频处理、AI 推理算力结合，目标是将其每 Token 推理成本降到英伟达 H800 的 10%。

▲凌川科技联合创始人、副总裁刘理

面向端侧、边缘侧的爱芯元智，市占率均取得了瞩目的成绩。刘建伟认为这两个领域实现商业闭环的速度会更快。他补充说，做 AI 芯片最终一定会赚钱，但实际盈利的时间表会受到 AI 部署成本等因素的影响，企业应尽快实现自我造血和闭环。未来，爱芯元智将在端侧和边缘侧大模型落地场景进行探索。

爱芯元智在汽车领域的产品出货量十分可观，刘建伟谈道，这是因为智慧城市和汽车的底层芯片技术类似，爱芯元智在智慧城市上积累了成熟技术再进入智能驾驶可以较快实现量产。同时，汽车领域价格战将推动产业分工是机遇期。

▲爱芯元智联合创始人、副总裁刘建伟

对于国产 AI 芯片如何快速找到生态位，刘建伟以爱芯元智的深耕场景为例，智慧城市基本没有国外公司，在智能驾驶领域英伟达开拓 0 到 1 阶段，1 到 100 更关注成本的阶段就是国内企业的机会。丁云帆提到四个要素：稳定可靠的供应保障、性价比、针对客户需求提供高效支持服务、高效易用。刘理认为应该在垂直领域深耕，做出比通用芯片更高效、优化的解决方案。

展望未来，刘建伟预测未来 4-5 年，端侧和云侧都将出现很大的发展机遇，产业界落地成本降低后，数据可以实现更大的价值。刘理认为随着 AI 应用迎来爆发期，云侧将产生大量推理需求。丁云帆谈到国内的高端算力仍然稀缺，但产业链的协同可以实现稳健的发展。

03.

智算中心建设潮起：壁仞 GPU 新突破，

国产 TPU 拼落地，Chiplet 赢麻了

在下午举行的数据中心 AI 芯片专场，Habana 中国区负责人于明扬谈道，近三年有大约 50+ 政府主导的智算中心陆续建成、60+ 在规划和建设中，智算中心建设逐渐从一线城市向二三线城市下沉，从政府主导逐渐转向企业主导，对成本压缩、投资回报周期的要求也逐渐提升。

据他观察，当前大模型开发日趋成熟，推理需求持续增长，头部 CSP 自研推理芯片的增速将提高，未来推理侧可能培育出多家异构芯片企业。

国外大模型训练需求仍将旺盛，国内模型训练对算力的需求基本饱和，主要来自微调业务。要支撑未来 AI 发展，Chiplet、高速大容量内存、私有 / 通用高速互联技术的融合将起关键作用。

▲ Habana 中国区负责人于明扬

为了打破大模型异构算力孤岛难题，壁仞科技副总裁兼 AI 软件首席架构师丁云帆宣布推出壁仞自主原创的异构 GPU 协同训练方案 HGCT。这是业界首次实现支持 3 种及以上异构 GPU 协同训练同一个大模型，即支持用「英伟达 + 壁仞 + 其他品牌 GPU」混训，通信效率大于 98%，端到端训练效率达到 90~95%。

壁仞正在联合客户、合作伙伴等共同推动异构 GPU 协同训练生态，包括中国电信、中兴通讯、商汤科技、国网智研院、上海智能算力科技有限公司、上海人工智能实验室、中国信通院等。

其产品已在多个千卡 GPU 集群开始商用落地。壁仞研发了软硬一体、全栈优化、异构协同、开源开放的大模型整体解决方案。壁仞首次实现大模型 3D 并行任务自动弹性扩缩容，保持集群利用率近 100%；已实现千卡集群千亿参数模型 10 分钟自动恢复、4 天无故障、15 天不中断的效果。

中昊芯英联合创始人、CTO 郑瀚寻谈道，如今的 AI 大模型远超计算历史任一时刻的计算复杂度和算力需求量，需要更擅长 AI 计算的专用芯片。相较于 GPU 最初主要设计用于实时渲染和图像处理，TPU 的设计则主要用于机器学习、深度学习模型和神经网络计算，针对张量运算进行了高度优化，单个的脉动阵列架构吞吐量和处理效率相较 GPU 有了更大提升。

中昊芯英自研的 " 刹那 " 芯片是中国首枚已量产的高性能 TPU 架构 AI 芯片，综合测算算力性能、成本、能耗后，单位算力成本仅为海外领先 GPU 的 50%。郑瀚寻认为，大模型发展后期，千卡、万卡集群的最佳费效比将至关重要，刹那芯片多达 1024 片芯片间的直接高速互联，在构建大规模计算集群时的系统集群性性能可远超传统 GPU 数倍。

▲中昊芯英联合创始人、CTO 郑瀚寻

据浪潮信息开放加速计算产品负责人 Stephen Feng 分享，随着大模型参数规模增加，生成式 AI 的发展面临四大挑战：集群扩展性不足、芯片功耗高、集群部署难、系统可靠性低四大挑战。浪潮信息始终坚持以应用为导向，以系统为核心，通过开元开放的系统激发生成式 AI 创新活力。

在硬件开放方面，通过建立 OAM（开放加速模块）规范，加速先进算力的上线部署，支撑大模型及 AI 应用的迭代加速。在软件开放方面，通过大模型开发平台 " 元脑企智 "EPAI ，为企业打造全流程应用开发支撑平台，通过端到端的解决方案，解决基础大模型落地到领域存在的幻觉问题，解决应用开发流程复杂、门槛高，多元多模适配难、成本高等落地难题，加速企业大模型应用创新与落地。

▲浪潮信息开放加速计算产品负责人 Stephen Feng

清程极智成立于 2023 年，聚焦 AI Infra 赛道，团队孵化于清华大学计算机系，在智能算力优化方面，已经积累了十几年的经验。

清程极智联合创始人师天麾分享道，目前，国产高性能算力系统正面临着故障恢复难、性能亚健康等方面的挑战，需要 10 大核心基础软件系统配合，清程极智已在其中过半数领域拥有自研产品。

目前，清程极智已掌握了从底层编译器到上层并行计算系统的全栈技术积累，实现大模型行业生态的全栈式覆盖，完成多个在国产芯片的高吞吐量推理优化和主流大模型的快速移植和优化，计算效果提升明显。其中，面向超大规模国产算力集群研制的大模型训练系统 " 八卦炉 "，可扩展到全机 10 万台服务器规模，用于训练 174 万亿参数量的模型。

▲清程极智联合创始人师天麾

芯和半导体技术市场总监黄晓波谈道，算力需求过去 20 年增长 6 万倍，未来 10 年可能达 10 万倍，存储、互联带宽成为主要发展瓶颈。Chiplet 集成系统成为后摩尔时代先进工艺制程限制和高性能算力提升突破的重要方向，已经广泛应用于 AI 大算力芯片和 AI 算力集群网络交换芯片。

对此，芯和半导体为 Chiplet 集成系统的设计开发提供了一站式多物理场仿真 EDA 平台。该平台支持主流工艺设计互连结构参数化建模，求解仿真能力比其他平台快 10 倍，内存仅占 1/20，并内置 HBM/UCIe 协议分析以提升仿真效率，获国内外多家头部 AI 算力芯片设计厂商使用，帮助大算力 Chiplet 集成系统产品的加速落地。

▲芯和半导体技术市场总监黄晓波

在大模型训练过程中，网络基础设施的开销占比达到 30%，凸显了网络性能的重要性。据奇异摩尔联合创始人、产品及解决方案副总裁祝俊东分享，网络已成为智算性能瓶颈，构建 AI 网络需要三网融合，即集群网间互连、机柜内互连，芯片内的互联。

大智算集群需要高性能互连，Modernize RDMA 与 Chiplet 成为关键技术。为了优化 RDMA，奇异摩尔的 NDSA 网络加速芯粒系列基于可编程众核流式架构，通过高性能的数据引擎，实现高性能数据流及灵活数据加速。奇异摩尔首创的 GPU Link Chiplet "NDSA-G2G"，基于以太基础设施，通过高性能数据引擎和 D2D 接口技术，可实现 Scale-Up 网络 TB 级高带宽，性能媲美全球互连技术的标杆。

▲奇异摩尔联合创始人、产品及解决方案副总裁祝俊东

Alphawave 是一家针对 HPC、AI 和高速网络应用提供 IP、Chiplet 和 ASIC 设计解决方案的企业。其亚太地区高级业务总监郭大玮分享说，针对数据在传输过程中面临的问题，Alphawave IP 产品的误码率比竞品低 2 个数量级，还可辅助进行集成和验证，并与 Arm 生态深度融合。他们还能为客户的 SoC 提供全生命周期的支持。

Chiplet 方面，Alphawave 帮助客户缩短周期，降低成本，提升了良率和迭代速度，目前已做出行业内第一款多协议 IO 连接 Chiplet，今年已经流片。定制芯片方面，Alphawave 主要专注于 7nm 以下的工艺，可根据客户需求完成从规格到流片的全流程，目前已实现超 375 次成功流片，DPPM 小于 25。

▲ Alphawave 亚太地区高级业务总监郭大玮

04.

结语：下游智能化风起云涌，

AI 芯片迎历史机遇

在迈向通用人工智能终极议题的道路上，AI 算法的形态不断变化，AI 芯片也与之相随。当古老的沙砾邂逅未来的机器智能，技术与工程智慧交融碰撞，一颗颗凝集了精微设计的 AI 芯片走进计算集群，步入千家万户，托载起硅基生命的进化。

从智算中心、智能驾驶到 AI PC、AI 手机、新型 AI 硬件，下游智能化风潮为锚定不同场景的 AI 芯片都带来了新一波历史机遇。快速发展的生成式 AI 算法及应用不断解锁新的算力挑战。技术创新和市场需求正双重推动 AI 芯片市场规模扩大，并推动 AI 芯片的竞争格局趋于多元。

9 月 7 日，2024 全球 AI 芯片峰会将继续密集输送干货：主会场将举行 AI 芯片架构创新专场、边缘 / 端侧 AI 芯片专场，公布「2024 中国智算集群解决方案企业 TOP 20」、「2024 中国 AI 芯片新锐企业 TOP 10」两大榜单；分会场将举行智算集群技术论坛、中国 RISC-V 计算芯片创新论坛。

 科普视频

AI 革命持续发生，赋能机器人真正觉醒。联想集团再度发布硬核科普视频，首次完整呈现机器人工业、移动、智能与神经，三支路径的百年科技角逐历史。解读具身智能重构生产关系，直接作用于实体经济，使 AI 向实，为新工业革命带来的深远影响。