2026 年 7 月 19 日,北京智源人工智能研究院与端侧智能北京市重点实验室联合发布《端侧智能 2026:规模化落地元年》报告。报告指出,大模型产业正经历从 " 云端集中式智能 " 走向 " 端云协同式智能 " 的结构性跃迁,2026 年已成为端侧智能从概念验证走向规模化落地的关键转折年。以面壁智能等公司为代表的中国端侧 AI 力量,正凭借 " 高能力密度模型 " 与全栈工程化能力,在这一轮产业变革中占据领先身位。
AI 的下一个规模化拐点:在终端
报告提出核心判断:AI 的下一个规模化拐点,不在 " 更大的云端模型 ",而在 " 能力密度足够高、能装进终端的模型 "。 过去三年大模型的主线是 " 能力的军备竞赛 ",进入 2026 年,主线已切换为 " 能力的落地竞赛 "。
产业向端侧集体转向,背后是四重现实约束的倒逼。成本方面,截至 2026 年 6 月,豆包大模型日均 Token 调用量已突破 180 万亿,较去年增长超 10 倍,云端推理经济性持续承压;时延方面,自动驾驶要求 10-50 毫秒级响应,云端往返无法满足;隐私方面,《个人信息保护法》与 GDPR 持续收紧,敏感数据 " 不出端 " 成为刚需;稳定性方面,弱网、断网环境下纯云端方案存在可用性短板。
业界正在形成的共识,是 " 端侧为主、云端为辅,优先在本地处理、解决不了再上云 " 的混合架构。ZEDEDA 2026 年边缘 AI 调查显示,47% 的企业已采用混合云 - 边缘架构。
密度定律:端侧智能的科学基石
端侧智能之所以能从愿景走向现实,背后有一条被反复验证的规律——密度定律(Densing Law) 。2024 年底,清华大学相关团队与开源社区 OpenBMB 提出 " 能力密度 " 概念,成果于 2025 年作为封面文章发表于《自然》。
密度定律的结论极具穿透力:大模型的最大能力密度随时间呈指数增长,约每 3.5 个月翻一番。芯片在同等价格下的算力约每两年翻一倍,而模型的能力密度约每百天翻一倍。两条曲线的交汇,把 " 高性能大模型装进终端 " 从设想变成工程现实。
截至 2026 年 7 月,MiniCPM 系列全球下载量突破 3800 万次、GitHub 星标超过 14 万。其 2026 年 5 月发布的 MiniCPM5-1B,仅以 1B 参数规模,在国际权威榜单 Artificial Analysis 上取得 17.9 分的成绩,与 2024 年 5 月发布的 200B 参数 GPT-4o 榜单得分仅相差零点几分。这背后释放的信号十分明确:参数规模不再是荣誉勋章," 单位参数、单位能耗下的智能产出 " 才是新的硬指标。
FlagOS 统一软件栈:打通端侧落地的 " 最后一公里 "
端侧智能的能力供给已就绪,真正卡住规模化落地的,是部署侧的碎片化。端侧芯片架构天然多元—— NPU、GPGPU、DSA、RISC-V AI、ARM 等并存,形成 "N 种模型 ×M 种芯片 ×K 种终端 " 的组合。
北京智源人工智能研究院牵头打造的众智 FlagOS 开源统一软件栈,为这一根本性矛盾给出了工程解法。2026 年 6 月发布的 FlagOS 2.1,已实现对 18 家厂商、32 款 AI 芯片的全场景支持,成为全球支持芯片种类最多的 AI 系统软件栈。其 FlagGems 算子库拥有 510+ 个算子,是全球最大的多芯片算子库,已进入 PyTorch 基金会生态合作项目。FlagCX 统一通信库更实现了国家标准与 ITU 国际标准的 " 双立项 "。 vLLM-plugin-FL、SGLang-plugin-FL 等推理框架插件,则让开发者在不改变 vLLM、SGLang 原生接口与使用习惯的前提下,一键将模型部署到多款芯片。面向端侧,FlagOS 已将适配能力延伸至 ARM 平台,支持 BF16、W8A8、W4A8 多种精度路径——最新发布的 MiniCPM5-2B 即在发布当日完成 9 款 AI 芯片及 ARM 端侧的 Day0 适配,部分芯片单位算力推理效率经优化后追平乃至超越 NVIDIA 原生水平。
报告认为,如果说 " 能力密度 " 解决了端侧模型 " 够不够聪明 " 的问题,那么 FlagOS 解决的是 " 能不能跑遍所有终端 " 的问题——前者是引擎,后者是把引擎装进千差万别车身的通用底盘。统一软件栈把 " 多元芯片→自主推理框架→高能力密度端侧基座模型 " 这条自主闭环,从愿景变成了可落地的工程路径。
面壁智能:端侧 AI 的先行者与产业标杆
作为报告中的核心实践案例,面壁智能是国内第一个布局端侧大模型、第一个落地端侧量产交付、第一个全栈 All in 端侧 AGI 的先行者。在产业落地上,面壁智能已取得多项里程碑式成果:
• 智能座舱率先跑通商业闭环。 端侧智能座舱方案 SuperMate 今年将实现超 30 万台车辆的量产交付。MiniCPM 系列先后搭载于长安马自达 EZ-60、吉利银河 M9 等量产车型,合作方覆盖吉利、长安、大众、广汽、长城、极氪等头部车企。
• 芯片适配效率行业领先。 2026 年发布的 MiniCPM-o 4.5 全模态模型,具备原生全双工交互能力,发布当天即完成对六大主流 AI 芯片的适配,是面壁智能极致工程化能力的有力证明。
• 国产算力生态深度布局。 面壁智能发布的 BitCPM-CANN 是国内首个完全基于华为昇腾国产算力平台实现端到端训练并开源的三值大模型,推理阶段可释放约 6 倍显存红利。
• 全球化生态协同。 面壁智能深度参与智源 FlagOS 生态建设,MiniCPM5-1B、MiniCPM5-2B 等多个模型通过 FlagOS 实现发布当日的多芯片 Day0 适配," 发布即多芯 " 已成为双方协作的常态机制。此外,面壁智能还与顶级芯片企业达成全球战略合作,协作深度已延伸至协同设计层面。
面壁智能联合创始人兼 CEO 李大海表示:" 体积受限、算力受限、能耗受限是制约端侧 AI 规模化落地的核心难题,也是行业从‘云端智能’走向‘万物智能’必须突破的核心关卡。未来 2 至 3 年,AI 将迎来两大重构:一是能力跃升,手机、汽车等终端从 App 容器进化为具备推理能力的端侧智能体;二是场景迁移,AI 将从数字世界走向物理世界。
报告展望,端侧智能走向成熟,依赖 " 高能力密度模型 + 统一软件栈 + 开放生态 " 三位一体。中国在终端品类、场景深度、产业链完整度与开源协作上的独特禀赋,恰好覆盖了这三条主线。这既是端侧智能走向物理世界的技术必然,也是中国在 AI 下半场争取生态主导权的战略机遇。
在此发展框架下,端侧 AI 将成为无处不在的智能基石,全面赋能千行百业,让手机、汽车、机器人、智能家居等各类终端全面搭载本地智能能力,深刻变革大众生活方式、提升社会运行效率,为民生服务、生产生活带来智能化升级。
关于北京智源人工智能研究院
北京智源人工智能研究院是致力于推动人工智能基础研究和原始创新的新型研发机构,在基座大模型、智能体、基础软硬件生态等前沿领域持续探索。智源研究院牵头打造的众智 FlagOS,已成为全球支持芯片种类最多的 AI 系统软件栈。
关于端侧智能北京市重点实验室
端侧智能北京市重点实验室依托清华大学,专注于人工智能基础理论和关键技术研究,长期承担国家级项目、国际合作项目以及部委和企事业单位合作项目。


登录后才可以发布评论哦
打开小程序可以发布评论哦