商业资讯 10-19
从算力到知力!华瑞指数云亮相2026人工智能产业大会"智能原生"论坛
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

10 月 14 日至 16 日,2026 人工智能产业大会(AIIC2026)在山东济南黄河国际会展中心举行。大会由中国信息通信研究院联合山东省工业和信息化厅、济南市人民政府共同主办,以 " 加快推进人工智能赋能新型工业化 " 为主题。

10 月 14 日上午,由中国信通院依托人工智能产业发展联盟(AIIA)智能原生工作组举办的 " 智能原生 " 论坛如期举行。华瑞指数云(ExponTech)联合创始人兼 CTO 曹羽中受邀出席,发表题为《从算力到知力:智能原生时代的下一个基础设施命题》的主题演讲。他的核心判断是:当模型与算力同时收敛,AI 基础设施的核心命题正在从 " 送算力 " 转向 " 养知力 "。

模型在趋同、算力在商品化,下一场战争在 " 上下文 "

曹羽中指出,2026 年 AI 行业的底层变量正在同时收敛:旗舰模型的基准分差收窄到几个百分点,Token 价格一年跌去一个数量级,算力可按 Token 计价。当模型与算力都趋同,AI 产品靠什么分出高下?他的答案是上下文(Context)。他把接入顶级模型、却没有上下文体系的 Agent 形容为 " 每天早晨都会失忆的天才 "。上下文也不等于记忆:交互记忆只是最薄的一层,完整的上下文还包括业务知识与业务数据—— " 只做交互记忆而不打通业务知识,等于守着金矿淘沙。"Agent 的天花板不在模型,在 Context;谁拥有用户的上下文,谁就拥有一切。

华瑞指数云联合创始人兼 CTO 曹羽中

算力之外是 " 知力 ":存得下只是字节,调得动才是知识

" 行业习惯沿着 ' 算力 ' 的对仗把它归入 ' 存力 ',但 ' 存 ' 字总把人带向容量、硬盘、存储系统,把这件事看小了。" 曹羽中由此提出一个更具指向性的词——知力:全部上下文(业务知识、业务数据、交互记忆)的全链路能力,存储、管理、全局共享、精确检索、语义检索,最终汇聚为一次模型交互所需的上下文。存力存得下的只是字节,知力调得动的才是知识。

算力决定 AI 想得多快,知力决定 AI 知道多少、想得多对。两者的根本区别在于时间属性——算力算过即忘;知力算一次、全局留存、千路并发共享,越积累越快越便宜。推理算力中 75% 以上耗在 Prefill,其中大量是重复计算;DeepSeek 公开实测显示,同等 Token 工作量下,全局 KV 缓存与零缓存的成本相差数十倍。" 在推理时代,继续单纯堆卡,是在为 ' 遗忘 ' 付费。" 由此他给出一个反直觉的建议:企业走向智能化的第一优先级,不是再采购更多 GPU——先让算过的不再重算,把业务知识与历史数据变成 AI 的上下文。

KV Cache 撞上 " 内存墙 ",行业共识已经形成

上下文从 32K 迈向 128K 乃至每会话 1M+ tokens,KV Cache 不再是性能优化,而是 AI 的工作记忆,但它撞上了 " 内存墙 ":一次 300K token 会话的 KV 空间约 180GB,远超单卡 HBM 容量;HBM 一满,放不下的 KV 只能被驱逐,重算代价是 O ( n² ) 。某 Token 工厂的生产实测显示,仅用 HBM 的 8 卡 GPU 节点上,并发从 120 升到 150,首 Token 时延(TTFT)便从 22 秒飙升到 615 秒——不是算力不够,而是记忆放不下。

行业共识已经形成——用 SSD 池化卸载 KV Cache。DeepSeek 默认为所有用户开启缓存,命中率 99.8% 与 0 之间的真实账单相差约 90 倍;NVIDIA 在 2026 年 1 月发布 CMX(Context Memory eXtension)架构,以 SSD+高速网络构成 G3.5 共享层。"CMX 五层各司其职,但只有 G3.5 让上下文成为集群的公共资产。" 围绕这一判断,华瑞指数云已形成完整的产品拼图:WDS 与 WFS 守住数据底座,WADP 让业务知识与业务数据高效供给 AI 管线,WQS ——全球最早的 AI 原生 KV Cache 存储,直接为 " 上下文 " 而生;四个产品全部构建在全自研分布式引擎WiDE之上。

以存换算:生产现场的 " 账本 "

演讲披露了两组生产环境实测数据。某 Token 工厂以 8 卡 GPU 推理节点搭配 3 节点 WQS 存储集群,仅切换 KV Cache 方案:150 并发下 TTFT 从 615 秒降至 28 秒,下降 95%;常规并发吞吐翻倍;30 轮长上下文输入吞吐提升 44 倍。" 存算协同不是锦上添花,而是大模型高并发、长上下文生产场景下的必经之路。"

在某大型企业,DeepSeek V4 Flash、4 台 8×H20,WQS 与推理引擎同机融合部署,同机 A/B 对比:不新增一台机器,TTFT 从 53.1 秒降至 21.3 秒、减少 60%,输出吞吐提升 3.06 倍。数据来自不同口径:实验室极限场景下 TTFT 加速 20 倍、吞吐提升 22 倍;真实业务 A/B 中吞吐提升 4.4 — 4.7 倍。只要 KV 被反复引用," 读取代替重算 " 就在放大产出。账本同样清晰:1 个 WQS 节点可支撑 3 台 GPU 服务器,即3 台 GPU+1 台 WQS ≈ 6 台 GPU。

让上下文成为集群的公共资产

当 KV Cache 从 " 某张卡的私有状态 " 变成集群的公共资产,算力调度将不再被缓存位置绑架——请求可以落在任何一张卡上,命中的是同一份全局缓存。曹羽中把它概括为一句话:知力基础设施让 " 上下文 " 像电力一样被集群共享,算一次,处处可用。

面向未来三到五年,他判断竞争将转向 " 谁能更低成本地留存、共享、复用上下文 "。为此,华瑞指数云向产业界发出标准共识、评测体系、生态共建三项倡议——推动共享 KV 池(G3.5)的接口与性能基线、以命中率和单 Token 成本为核心的公开评测,以及从推理框架、算力调度到芯片网络的端到端协同。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

人工智能 ai 创始人 基础设施 cto
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论