“TPU（张量处理器）的价值会持续放大。”近日，中昊芯英（杭州）科技有限公司（以下简称“中昊芯英”）创始人、CEO杨龚轶凡在接受《证券日报》等媒体采访时表示，通用GPU（图形处理器）架构兼顾图形渲染、通用运算等全场景任务；TPU架构则聚焦大模型核心矩阵计算。在特定任务下，TPU架构综合效能可达通用方案数倍。

　　在他看来，相较于通用GPU，TPU的性能、性价比提升拥有更大的想象空间。日前，中昊芯英正式发布新一代全自研高性能TPU AI产品“须臾”，同步推出搭载“须臾”构建的软硬件一体化智算底座——泰则2.0 AI高性能智算平台。

　　“‘须臾’的研发目标就是大幅压低单位词元成本。”杨龚轶凡表示，“高额的算力成本正在制约AI应用的落地效率，只有成本下探，各类AI应用才能真正实现规模化普及。”

　　他透露，随着后续产品迭代，TPU算力成本有望持续下探。

　　发力TPU路线

　　在此次访谈中，杨龚轶凡向《证券日报》记者拆解了词元成本居高不下的核心逻辑。

　　“现有智能体的交互逻辑是词元成本大幅攀升的直接原因。”杨龚轶凡表示，用户单次提问的文本体量通常十分有限，但平台在发起API（应用程序接口）调用时，会将相关对话全部历史上下文统一打包转化为词元输入模型，由此造成输入侧词元规模往往达到输出侧的万倍级别。

　　杨龚轶凡坦言，长期累积下，企业调用成本便持续高企，成为商业化落地阶段难以忽视的成本负担。

　　针对历史对话反复计费的痛点，“须臾”设计了分工协作的硬件调度模式，一部分单元专门负责读取海量历史文本，另一部分专注生成回复，各司其职互不干扰。

　　“我们已经完成Prefill-Decode（PD）分离推理架构硬件适配。”杨龚轶凡透露，从用户内测反馈来看，整机综合性能实现三倍以上提升，多数场景单位词元产出性价比超过海外头部GPU。

　　此外，反复调取存储数据亦是隐形开销大户。“须臾”能够优化数据传输通道，减少来回调取外部存储的次数，最大限度减少无效消耗。

　　杨龚轶凡给记者算了一笔账，全新一代“须臾”处理能力较上一代翻了三倍，在完成同等规模任务时，整套设备功耗只有传统通用算力服务器的八成。

　　“当下各地智算中心能耗配额是核心稀缺资源，TPU整机功耗更低，在同等能耗指标限额内，可部署更多算力服务器，集群整体算力规模显著提升；同时，低功耗设备发热更少，器件老化、故障概率更低，因此长期运维、更换设备的损耗成本同步下降。”杨龚轶凡介绍，综合测算下，大型智算中心多年运营总成本降幅将远不止20%。

　　长期来看，打通和本土大模型企业的深度适配，是持续压缩成本的核心抓手。杨龚轶凡表示，后续中昊芯英将推进与模型厂商的深度联动和调优，进一步提升性价比。“公司的长期目标是将百万词元使用成本压至初代产品的十分之一。”

　　直面挑战

　　即便TPU赛道增长前景清晰，杨龚轶凡也没有回避行业现存的多重难题，在他看来，软件适配生态不完善、产业链配套不均衡、行业标准不统一，是当下国产算力发展绕不开的三道“坎”。

　　软件配套生态的不完善，是国产算力亟须攻克的第一道“坎”。“最大的难题从来不是硬件制造，而是软件配套生态。”谈及行业痛点，杨龚轶凡表示，“海外头部厂商二三十年持续砸重金搭建适配体系，每年投入几十亿美元完善配套工具。与之相比，我们只用一年半时间搭建出可用的基础运行环境，客观存在差距。生态差距是所有本土算力厂商共同面对的难关。”

　　产业链配套不均衡，是国产算力发展的第二道“坎”。高端存储、先进集成工艺等相关产能高度集中，外部供给限制持续存在，上游物料价格波动、交付周期拉长已是常态。同时国内配套产业链成熟度尚有差距，分层集成方案落地需要成熟配套支撑，整套体系完善仍需数年时间。除此之外，国内各地智算中心电力能耗配额紧张。传统高耗电算力设备大幅抬高机房建设成本，绿色低碳算力配套体系仍待完善。

　　最后一道“坎”，则是各家厂商标准不统一，造成行业碎片化发展。对此，杨龚轶凡明确，中昊芯英不会打造封闭独立的软件生态，将坚持全面拥抱开源，原生适配PyTorch等主流开源框架，仅针对国内智谱等头部大模型开发专属算子，客户迁移基础业务几乎零代码改动，适配后推理性能反而提升。

　　从技术迭代周期来看，当前TPU赛道仍处于发展早期，整体研发历史不足十年，对比迭代三十余年的通用GPU，仍有海量微架构、计算逻辑创新空间。“我们现阶段还没有进入成熟PPA（性能、功耗、面积）平衡阶段，个人认为还要有五年左右多代产品迭代，TPU路线才会进入精细化PPA平衡调优阶段。”杨龚轶凡表示。

　　放眼未来，杨龚轶凡表示，中昊芯英将开放协同、共建TPU软硬件标准，联合全产业链完善技术体系，做TPU架构普及与标准化的核心推动者。

　　“我们会持续迭代算力产品，联合上下游完善适配生态，一步步化解本土算力产业各类难题。”杨龚轶凡如是说。