“如果很多人同时来问你（大模型）问题，你还能‘舌战群儒’、应付自如，这就是我们在算力层面追求的目标。”接受21世纪经济报道记者专访时，中兴通讯产品规划首席科学家王卫斌用这样的比喻，描述了他眼中下一代AI基础设施的形态。
过去几年，大模型竞争更多围绕参数规模和GPU算力展开；但随着Agent快速普及，一个复杂任务往往需要调用数十甚至上百次模型，多个智能体协同执行也让Token（词元）消耗持续攀升。AI产业开始意识到，真正决定用户体验的，不再只是模型“能不能回答”，而是能否以更低成本、更快速度持续输出Token。
在王卫斌看来，这并非一次简单的产品迭代，而是AI基础设施竞争逻辑的一次转变：随着Agent推动Token经济快速发展，行业竞争正从单芯片创新走向系统工程创新，从追求算力规模走向追求Token效率。为此，国产厂商的集体选择是，采用多要素协同、开放互连的策略，超节点方案的推出就是其中的关键一环。
要让AI能“舌战群儒”
今年正成为国产超节点方案集中面市的关键一年。可为什么偏偏是今年？在王卫斌看来，这是需求侧与供给侧共同驱动的必然。
在需求侧，这主要源于大模型架构的变化。王卫斌对记者分析，过去几年，大模型不断向万亿甚至更大参数规模演进，同时MoE（混合专家）架构逐渐成为行业主流。相比传统稠密模型，MoE模型虽然能够降低计算成本，却带来了更加频繁的数据交换需求。每一次Token生成，都需要不同GPU之间不断同步参数、交换数据，GPU等待通信的时间越来越长；而AI训练和推理过程中也在广泛使用各类稀疏技术，对算力无疑提出更高要求。
这意味着，传统依靠8卡服务器不断横向扩容的方式，已经越来越难释放GPU全部的有效算力。
多位业内人士也向21世纪经济报道记者表示，在建设大规模智算集群过程中，即使部署了大量GPU，由于跨节点通信效率不足，实际算力利用率仍存在较大提升空间。随着推理需求快速增长，行业竞争开始从“拥有多少GPU”，逐渐转向“如何让GPU协同工作得更高效”。
超节点正是在这一背景下成为新的基础设施形态。
所谓超节点，本质上是通过高速互连，把几十张甚至上百张GPU组织成为一个更大的统一计算单元，尽可能减少GPU之间的数据等待时间，提高显存利用效率和通信效率，从而提升整体算力输出。
王卫斌认为，相关解决方案经过前几年的积累，其产业链技术已经逐渐走向成熟。由此，需求与供给形成共振，也推动超节点从概念验证进入产业化阶段。
而今年Agent应用的快速发展，进一步放大了对Token的需求。过去，大模型多是完成几次对话式问答；如今，一个Agent完成复杂任务，往往需要自主规划、调用工具、多轮推理和反复执行。这意味着，一个任务背后消耗的Token数量成倍增长，Token开始成为AI时代新的“生产资料”。
王卫斌对记者指出，现在业内普遍开始讨论“Token Budget（词元预算）”。一方面，当前Token成本依然较高；另一方面，由于Agent技术仍在快速演进，复杂任务执行过程中还会产生不少重复推理和冗余Token消耗，进一步推高了推理成本。
在他看来，未来AI基础设施竞争的核心，不只是拥有更多GPU，而是如何提升Token生产效率。
“我们更关注的是Token输出效率，比如每秒能生成多少Token、首Token时延有多低，以及面对大量用户同时访问时，系统还能不能稳定、高效地响应。”王卫斌还用了一个形象比喻：“很多人同时来问你（大模型）问题，你还能‘舌战群儒’、应付自如，这就是我们在算力层面追求的目标。”
超节点正是降低Token成本的关键手段之一。
王卫斌认为，超节点通过把更多CPU、GPU整合成统一算力底座，能够更好满足内存密集型、通信密集型的推理需求，是降低Token整体拥有成本（TCO）的有效方式。
国产超节点的系统化较量
超节点概念最早由英伟达提出，发展至今，国内已经基于此思路进行了新的技术架构探索。
“国外厂家最大的优势还是单芯片性能。”谈及国产超节点与海外方案的发展差异时，王卫斌没有回避现实。在他看来，以英伟达为代表的海外超节点方案中，其GPU无论在先进制程、封装工艺，还是HBM高带宽存储等关键技术方面均保持领先优势，这也决定了国内外产品在单颗GPU的计算能力方面存在一定差距。
但在他看来，超节点的发展，本身就是为了突破单颗芯片能力的边界。“国内更多走的是多要素协同、开放互连的路线。”王卫斌说，国产厂商正尝试通过“系统协同”，采取例如增加单机柜内GPU数量、增强机柜间扩展能力、用高性能网络弥补互连不足等多重手段，提升系统性能。
这也与今年国产超节点的发展方向形成呼应。国内厂商展示的超节点方案，集体把创新重点放到互连架构、交换能力、散热设计以及工程化能力等层面。相比过去几年AI产业更多讨论“造芯片”，如今产业开始进入“建系统”阶段。
例如在架构创新方面，无线缆方案就是一个重要方向。
“英伟达早期发布的NVL72采用大量铜缆（Cable Tray）实现计算节点与交换节点的互连，这个方案成本比较高。在一个机柜中就有5000多根线缆，需要对应接插，不能插错；另外如果单根线缆出现问题，就会影响到整个系统的运行。”一名算力产业资深人士如此对记者分析，这是国内不少厂商在探索无线缆方案的一个背景因素。
“无线缆是中兴通讯OEX超节点架构一个最显著的特征。”王卫斌告诉记者，其他特性还包括无背板、正交架构等。这些创新设计的核心目的，都是为了缩短信号传输路径、降低传输时延；同时，减少线缆本身也意味着可以进一步释放带宽能力，提升系统可靠性、降低后期维护成本。
这是以TCO为核心，而不只考虑超节点的性能、性价比、CapEx（资本开支），更多要考虑OpEx（运营支出）。
王卫斌透露，这一设计源于公司多年在核心路由器领域的积累，得以更好地实现数据处理与数据交换的高效融合。
他还判断，无线缆不会只是个别企业的探索，而会逐渐成为行业共识。“以英伟达为代表的海外厂商，其新一代超节点方案也已经开始取消Cable Tray方案，转向大背板的连接方式。”他续称。
除了无线缆，互连方式创新也是关键趋势之一。
随着GPU规模不断扩大，铜缆传输距离和带宽能力逐渐逼近物理极限，越来越多厂商开始探索利用光互连代替传统电互连，希望进一步提升带宽、降低时延。
对此，王卫斌认为，相比铜缆，光纤具有更强的抗干扰能力，也能够支持更远距离的数据传输，因此随着超节点规模不断扩大，光互连的重要性将持续提升。例如业界探索的近封装光学（NPO）、共封装光学（CPO）以及未来芯片级光互连（OIO）都是核心方向，本质上都是希望不断缩短光模块与芯片之间的距离，提高整体效率。
“这和无线缆方案其实异曲同工，核心是提高传输性能和可靠性。”他进一步提到，现阶段光互连方案距离真正的大规模商用仍需一定时间。“这些技术方向都正确，但技术成熟度还没有达到可以规模化商用的阶段。”王卫斌表示，因此从产业落地角度看，当前无线缆架构依然是更加成熟、可规模部署的解决方案。
过去几年，AI产业讨论最多的是GPU芯片；如今，随着推理成为主战场，决定AI效率的关键开始变成GPU之间如何协同工作。谁能够把越来越多的GPU组织成一个低时延、高带宽、高可靠性的整体，谁就更有机会在下一轮AI基础设施竞争中占据主动。
今年国产超节点的集中亮相，显示出国内AI产业竞争逻辑的一次进化——竞争焦点已经从“更强的芯片”，逐步走向“更强的系统工程”。而随着Token经济蓬勃发展，这场围绕算力组织效率展开的新竞争，或许才刚刚开始。
