܄

【数智化人物展】ExponTech华瑞指数云曹羽中:算力趋同之后,知力决定智力的上限

【数据猿导读】 2026第六届数智化颁奖典礼将于8月5日在北京举行颁奖点击可报名参加颁奖典礼丨此次人物榜单/奖项的评选依然会进行初审、公审、终审三轮严格评定,并会在国内外渠道大规模发布传播欢迎申报。

【数智化人物展】ExponTech华瑞指数云曹羽中:算力趋同之后,知力决定智力的上限

曹羽中

“【提示】2026第六届数智化颁奖典礼将于8月5日在北京举行颁奖点击可报名参加颁奖典礼丨此次人物榜单/奖项的评选依然会进行初审、公审、终审三轮严格评定,并会在国内外渠道大规模发布传播欢迎申报。

2026年上半年,AI行业有一个很少被公开承认、但从业者心里都清楚的事实:模型之间的差距正在快速缩小。头部厂商旗舰模型在主流基准上的分差,从两年前的“代际差”收窄到几个百分点;Token价格一年之内跌去一个数量级;国产大模型的周调用量已经持续超过海外厂商。算力同样在商品化——GPU可以租,推理按Token计价,谁都能以差不多的价格,用上差不多的算力。

这带来一个尴尬的处境:对于绝大多数任务而言,今天你把产品底下的模型换掉,用户几乎感觉不出差别。那么,当模型与算力都趋同,AI产品之间靠什么分出高下?

我的判断是:上下文(Context)。下一场AI产品的战争,是上下文之争。

Agent的天花板不在模型,在Context

评价一个Agent产品,行业习惯先问“底下接的是什么模型”。这个问题在2024年有意义,到2026年意义已经没有那么大了。真正该问的是另外的几个问题:它掌握多少背景?理解多深?它能否理解企业的业务知识和历史数据?这种理解能延续多久?

一个接入顶级模型、却没有上下文体系的Agent,本质上是一个不理解历史背景,每天早晨都会失忆的天才——你昨天与它讨论过的方案、纠正过的错误、约定过的偏好,一觉醒来全部归零。用户在它身上付出的每一次沟通成本,都无法沉淀为它对你的理解。这样的产品,模型再强,能力上限也被死死锁住。Agent的天花板不在模型,在Context。

但如果把上下文等同于“记忆”,就把这场战争看小了。这两年AI圈涌现出大量记忆框架、记忆组件项目,它们盯住的都是交互过程中的记忆:用户说过什么、Agent做过什么、上次任务停在哪一步。这些当然有价值,但只是上下文中最薄的一层。上下文的完整含义,是与当前任务相关的全部知识背景。对企业而言,上下文就等于企业现有的业务知识和业务数据——几十年沉淀的工艺参数、风控规则、客户档案、合同文书、故障工单、代码资产。一个金融风控Agent的能力上限,不取决于它记住了多少轮对话,而取决于它能否在需要的那一刻,调取这家机构二十年积累的风控案例与规则库。只做交互记忆而不打通业务知识,等于守着金矿淘沙。

而一个能把完整上下文——既包括交互记忆,更包括业务知识与业务数据——持续组织起来的AI系统,会随着使用时间越来越“懂”这家企业。这种理解不可迁移、不可复制:算力可以换云厂商或者自建,模型也可以换供应商或者自行部署开源模型,唯独一家企业与系统之间积累起来的上下文,搬不走。这才是AI产品真正的护城河。所以我常说一句听起来有点激进的话:谁拥有用户的上下文,谁就拥有一切。

算力之外是“知力”:存的不是字节,是可被智能随时调用的知识

“拥有上下文”说起来轻巧,工程上极其昂贵,而且两头都难。动态的一头:Agent每一次交互产生的KV Cache动辄百万Token量级,计算成K,V张量之后,需要消耗上百GB存储容量,放进GPU显存放不下——HBM容量有限且昂贵;放在单机内存和本地盘里共享不了——天然的数据孤岛;丢掉重算又付不起——Prefill占掉推理算力消耗的75%。静态的一头:企业几十年的业务知识和数据,散落在数据库、文档、日志和一代代老系统里,要能被精确检索,也要能被语义检索,还要在恰当的时机、以恰当的粒度汇聚成某一次交互的上下文——多一分是噪声,少一分是盲区。

把这条链路的全过程能力——全部上下文(业务知识、业务数据、交互记忆)的存储、管理、全局共享、精确检索、语义检索,直至高效汇聚为某一次模型交互的上下文——行业习惯沿着“算力”的对仗,把它笼统地归入“存力”。但“存”这个字,总把人带向容量、硬盘、存储系统等,把这件事看小了。我更愿意给它一个新名字:知力。知力的“知”,是知识的知——存得下的只是字节,调得动的才是知识。1PB无法被检索、进不了上下文的数据,谈不上知力;一份能在毫秒之间送到模型面前的知识,才是。一句话:知力,决定智力。

知力还有一个常被忽略的硬指标:供给效率。上下文不仅要找得到,还要到得快——模型开始思考的那一刻,它需要的知识必须已经在场。上下文到得慢,算力就在空转;在推理集群里,GPU等待数据的每一微秒都是纯粹的成本。所以知力天然是一个性能词:算力决定AI想得多快,知力决定AI知道多少、想得多对,以及——能不能持续的深度思考,形成高效的思维链。

这也是我们与“记忆组件”路线的根本分野:记忆框架解决的是对话历史的取舍,是应用层的技巧;知力要修的是从企业全部知识资产,交互上下文信息到模型和GPU之间的高速公路,是基础设施。技巧可以被复制,基础设施才构成壁垒。

文明的力量不在节点

在把节点连起来的架构

把视野拉远一点。人类单个个体的脑力,几千年来几乎没有变化——今天最聪明的人,未必比亚里士多德更聪明。但文明的能力呈指数增长。差别不在节点,而在系统架构:文字让经验跨越个体的死亡,印刷让知识跨越阶层,图书馆让记忆跨越世代,互联网让信息跨越地理。文明的力量,从来不在某个节点有多强,而在于把无数个“弱节点”连接起来的那套系统架构。

我认为这条规律同样适用于机器智能:依靠单个节点的算力,堆不出真正的超级智能。超级智能需要的是海量连接、信息共享与交换——成千上万个Agent各自执行任务、各自积累经验,而这些经验能够全局流通、彼此复用。

面向超级智能的AI Infra,要架构的正是这套底层逻辑。它不会只有算力。算力之外,必须有知力——上下文知识、外挂的超级记忆;还必须有让这些知识实现全局共享的能力。三者缺一,这套架构就不成立。

而今天绝大多数推理集群的现状,恰恰是反着来的:每个节点各算各的KV Cache,保存在单卡的HBM中,最多是卸载保存在单推理节点的DRAM中,无法做到上下文知识的共享和流动,多个Agent面对同一份知识各自重算一遍。这相当于人类还没有文字,没有书籍的远古时代。英伟达2026年初发布的CMX上下文存储分层架构,把解法写进了标准:五层存储体系中,G1到G3(HBM、内存、本地NVMe)都只服务单节点,G4为全局共享的传统存储(分布式文件系统,对象存储等),但是不是为了上下文数据而设计的,在上下文数据的存储,检索和取回方面无法匹配推理集群的IO特征和极致性能要求,唯有G3.5全局共享KV池,能让“上下文”成为整个集群的公共知识资产。而我们认定这是整套架构里最关键的一层,比英伟达的CMX架构发布还要早——这一点,后文再展开。

算力是一次性的

知力才有时间复利

再往深一层看,算力和知力之间有一个根本性区别,行业讨论得太少:算力是一次性的,算过即忘;知力是可积累的,能产生时间复利。

一块GPU满负荷跑一天,电费花掉了,如果算的是重复的上下文,第二天什么都没留下——同一份系统提示词、同一段行业知识库,明天还要原样重算一遍。当下推理集群里高达75%以上的算力消耗在Prefill上,其中大量是对已经算过的内容的重复计算。这是纯粹的耗散,不产生任何沉淀。

知力的逻辑完全不同:一份上下文计算一次,全局留存,千路并发共享同一份缓存;缓存积累得越多,命中率越高,系统就越快、越便宜——DeepSeek公开的实测已经证明,依托全局KV缓存,同等Token工作量的运营成本可以比零缓存场景低数十倍。这就是复利:投入不再是消耗,而是资产,随时间滚动增值。对企业更是如此:业务知识和业务数据本就是几十年复利滚存下来的资产,知力让这笔沉睡的资产第一次可以被智能按次调用、按次产生回报。

人类文明本身就是靠这种复利建立起来的。我们不需要每一代人重新证明勾股定理,重新发明微积分——前人算过的,记下来,后人直接用。一个算过即忘的系统,永远建立不起文明;同样,一个算过即忘的AI系统,也永远长不成超级智能。文明和超级智能,只能靠时间复利一层层构建。有意思的是,汉字里早就写好了这个答案:“智”这个字,就是“知”加“日”——知识,乘以时间,才成为智慧。“日”字代表日积月累的时间复利,算力给不了那个“日”字,知力才能。

所以我坚持一个可能让一些同行不太舒服的结论:在推理时代,继续单纯堆卡,是在为“遗忘”付费。企业走向智能化时代的第一优先级,不是采购更多GPU,而是先让已经算过的东西,不再被重算。

把判断变成产品:

我们提前下注的那条路线

判断谁都可以下,先锋与跟随者的区别在于:是否敢在共识形成之前,把判断变成产品。

2020年我牵头创立华瑞指数云(ExponTech)时,行业的主流叙事还是“算力为王”。我们选了另一条路:赌基础设施的下一个瓶颈在数据、在上下文。而这条路的第一步,是一个当时看来最笨、最慢的决定——不做开源改造,不借别人的地基,从零自研新一代分布式引擎。

这个引擎就是WiDE,全自研的下一代分布式引擎,也是整条技术路线真正的根基。后来的所有产品——WDS、WFS、WQS、WADP——全部构建在WiDE之上。根技术握在自己手里的价值,在AI时代兑现得最彻底:当KV Cache这种要求极高并发,极低时延,小块随机IO,并行KV读写的全新负载出现时,我们可以直接在引擎层为它设计最为精简的数据路径,而不是在现在的存储架构上打补丁,增加更多的冗余层级。

WDS,基于WiDE的极速分布式块存储,面向数据库等企业关键业务系统。2023年,团队凭借WDS分布式软件+普通服务器的组合打破SPC-1全球存储性能榜的世界纪录,终结了传统的高端全闪存储阵列在存储性能上的长期垄断——这是WiDE引擎的超级性能和并行扩展性第一次在世界舞台上得到公开证明。

WFS,基于WiDE的分布式并行文件存储,承接AI训练与数据处理管线,解决海量非结构化数据的高吞吐供给问题。

WADP,面向AI负载的数据平台,2025年在MLPerf Storage v2.0中拿下多项全球第一。MLPerf Storage的优异测试结果意味着,我们对“AI负载究竟需要什么样的存储和IO处理能力”的理解,经受住了最苛刻标准的检验。

WQS,则是整条路线上最关键的落子:全球最早的AI原生KV Cache存储产品,直接为“上下文”这种全新的数据形态而生。我们没有走行业普遍的捷径——拿分布式文件系统封装改造。分布式文件系统为大块顺序IO优化设计,处理KV Cache所需的小块随机IO时带宽断崖式下跌,八跳IO链路、两次内核切换,注定撑不起实时推理的热路径。WQS依托WiDE构建原生KV引擎,用户态RDMA直连,两跳IO路径、零内核切换:16KB到10MB各种尺寸IO均可以稳定跑满物理网络带宽,端到端高并发读取时延控制在200μs以内;超强的并行随机小IO能力,使得我们可以使用更小的缓存block粒度达到更高的缓存命中率,使用分层流水线加载实现极低的KV缓存加载时延,配合CacheBlend等非前缀复用技术,让文档片段、中间知识段落都能单独命中,生产环境缓存命中率最高达到98%以上。

这条路线的前瞻性,有一个最有分量的注脚:早在2025年11月,AI原生KV Cache存储WQS与英伟达完成联合测试,验证了与英伟达Bluefield-3 DPU和Spectrum-x网络的软硬融合方案,与CMX分层缓存架构完美契合——而英伟达正式对外发布CMX架构,是在2026年1月。也就是说,当这个行业最重要的架构标准公开亮相时,我们的产品已经在标准发布之前完成了原生开发和适配验证。不是我们在追赶标准,是标准印证了我们几年前的判断。

落到企业的账本上,在推理集群中部署WQS意味着:PD分离集群的Prefill与Decode配比从3:1翻转为1:3,同等规模集群有效生成Token的算力提升3倍,整体Token吞吐率提升近4~5倍;不新增一张卡,Token产能翻数倍——这是通过“上下文存储节省算力”路线最直接的商业证明。

四个产品合起来,恰好是“知力”的完整拼图:WDS、WFS守住企业的数据底座,WADP让业务知识与业务数据高效供给AI管线,WQS让动态上下文全局留存、共享与复用。企业的历史知识进得来,交互记忆存得住,每一次模型调用都能以最低的时延拿到它需要的全部背景——这才是我们理解的、完整意义上的知力。

同时,这套架构从第一天起就按“统一架构、按需部署、全域治理”设计:数据分级、权限隔离、全链路审计内置于底座,支持完全本地化部署,安全管控到位,让中国企业在推进本土的智能化的同时,能以同一套基础设施合规出海。

结语:为上下文修建新型知力基础设施

回头看,2020年选择这条路时,AI 还在神经网络,深度学习阶段,基于transformer架构的模型刚刚崭露头角,“KV Cache”,“上下文”,“Agent”等今天的热词还没有出现。今天,上下文已经是承载智能体能力的核心资产形态。我们比行业早走了几年构建新一代分布式存储引擎,构建AI原生的并行IO处理能力,不是因为运气,而是因为始终从第一性原理出发去推演:智能的本质是连接与积累,而不是孤立的计算。

未来三到五年,AI产业的竞争会从“谁的模型强、谁的卡多”,转向“谁能以更低的成本,留存、共享、复用更大规模的上下文”。这场上下文之战,比拼的是底层知力基础设施的效率、成本与治理能力。中国企业依托全球最大规模的真实推理场景,完全有机会在这一层定义标准,而不是追随标准。

算力让AI会思考会计算,知力让AI知道上下文,知道业务背景信息——知道得越多、越准、越快,智力的上限就越高。而无论文明还是智能,最终都是由知识与记忆——而非一次次算过即忘的计算——一层层垒起来的。我和团队会继续做那个为上下文修建知力基础设施的人。

·申报人“曹羽中”简介:

曹羽中,ExponTech 华瑞指数云联合创始人兼CTO。2020年牵头创立公司,带领团队从零自研下一代分布式引擎WiDE,并基于WiDE引擎先后推出极速分布式块存储WDS、分布式并行文件存储WFS、AI数据平台WADP,以及AI原生的KV Cache存储产品WQS。2023年,其带领的技术团队凭借WDS打破SPC-1全球存储性能榜的世界纪录;2025年,WADP在MLPerf Storage v2.0基准测试中获得多项全球第一;2025年11月,全球最早的AI原生KV Cache存储产品WQS与英伟达完成联合测试,完美契合并早于英伟达CMX架构的正式发布(2026年1月)。


来源:数据猿

声明:数据猿尊重媒体行业规范,相关内容都会注明来源与作者;转载我们原创内容时,也请务必注明“来源:数据猿”与作者名称,否则将会受到数据猿追责。

刷新相关文章

【数智化人物展】白鲸开源CEO郭炜:“人和Agent 共生”才是企业级AI战争的关键点
【数智化人物展】白鲸开源CEO郭炜:“人和Agent 共生”才是企...
【数智化人物展】博登智能CEO赵捷:中国企业数智化转型正在跨越“最后一公里”
【数智化人物展】博登智能CEO赵捷:中国企业数智化转型正在跨...
【数智化人物展】美的集团CISO兼软件工程院院长刘向阳:AI 时代 地基决定高度
【数智化人物展】美的集团CISO兼软件工程院院长刘向阳:AI 时...

我要评论

数据猿微信公众号
第22届国际物联网展
返回顶部