中经记者李静北京报道
2026年,AI行业的关键词正在从“模型参数”悄然转向“Token(词元)消耗”。
今年3月,中国日均Token调用量就突破140万亿大关,较两年前增长超千倍。当大模型从实验室的“吞金兽”走向生产线的“印钞机”,Token——这个计量AI认知与计算的最小单元——正成为定义AI时代商业价值的新石油。
在这场Token生产的“工业革命”中,一家名为趋境科技的清华系创业公司,凭借“AI Token工厂”的定位,在半年内斩获超10亿元融资,并在2026年6月实现了单月收入超过去年全年的商业里程碑。
“我们卖的不是工厂里的设备,我们卖的是工厂生产出来的产品。”近日,趋境科技Token事业部总经理刘显赫在接受《中国经营报》记者采访时说道。在他的比喻里,算力是炼油厂的设备,Token才是可以被交付的“成品油”,而且像汽油一样有92#、95#、98#的品质差别。
AI产业价值大迁移
一年多以前,AI产业的叙事还围绕着“百模大战”和算力卡的数量。如今,风向逐渐变了。
刘显赫在采访中坦言:“AI一旦从聊天变成生产力工具,它所消耗的每一个Token,就成了可量化、可交易的产品。”
这种转变源于AI使用模式的根本性变化。随着今年智能体(Agent)兴起,AI不再是简单的“一问一答”,而是可以执行多轮推理、代码生成、工具调用等复杂任务。
360集团创始人、董事长周鸿祎在近期透露,公司内部有员工使用智能体制作一份常规工作PPT,累计消耗近1亿Token。按照目前高端大模型计费标准折算,1亿Token的成本接近1万元。
Token消耗量的指数级增长催生了“Token经济学”。今年上半年,趋境科技获得多轮融资;北京发布国资背景的“京算Token工厂”,阿里巴巴也将Token写入新的组织架构。
不过,Token并非完全同质化的商品。刘显赫介绍,高品质Token主要通过TTFT(首字延迟)、TPS(每秒吞吐量)、并发能力和SLA(服务等级)等指标衡量。“如果提出请求后几分钟才回复,或者每秒只能输出十几个字,在生产环境中是完全不够用的。”
这也是Token工厂与传统算力租赁的区别。后者出售GPU使用时长,收益受到硬件折旧限制;前者出售标准化的Token产品,可以通过技术优化,在同一批硬件上生产更多、更快、更稳定的Token。趋境科技采取“少模型、深优化”的策略,重点适配Token消耗量较大的头部模型,以减少模型数量过多带来的适配和运维成本。
把算力成本打下来
如何让相同算力生产更多高品质Token?
大模型推理存在大量重复计算。由于模型无法长期记住全部历史对话,每次处理新问题时都可能重新计算已有内容。趋境科技采用“以存换算”的KVCache(键值缓存)技术,为模型建立类似短期记忆的缓存。当用户反复提出相似问题,或多个任务共享相同上下文时,系统可以调用缓存中的中间结果,减少重复运算,从而压低推理成本。
更关键的是趋境科技在“国产Prefill-Decode(PD)异构协同”“高性能异构KVCache转换”“异构算力计算池化”上的工程化能力。公司孵化于清华大学计算机系高性能所,参与开源异构推理框架KTransformers及Mooncake项目,并活跃于vLLM、SGLang等主流推理社区。
PD架构把大模型推理拆分为两个阶段:前一阶段负责理解输入内容,计算较为密集;后一阶段负责逐步生成答案,更依赖内存和数据传输。将两个阶段交给不同硬件处理,可以让高端芯片集中承担更擅长的任务,其他计算资源则处理剩余工作,提高整套集群的利用效率。
传统大模型的推理高度依赖高端GPU,不仅成本较高,也容易受单一硬件生态制约。趋境科技尝试通过异构调度和混合推理架构,统一调动GPU、CPU、内存、网络和存储资源,同时适配国产AI芯片,提高整体资源利用率。
“我们不只是利用国外GPU,也希望把国产GPU、CPU、内存、网络和存储都利用起来,让综合效率提升。”刘显赫说。
据趋境科技披露,自2026年春节以来,其单台算力的Token生产效率提升3倍以上,总产能增长30倍。部分客户部署相关方案后,推理业务毛利率由负20%提升至30%。
刘显赫表示,当前行业算力利用率普遍在40%左右,但可以通过Token出海、批量推理等业务提高利用率。
在他看来,不同企业的成本结构也存在差异。有的企业达到一定利用率即可盈亏平衡,随后增加的产出能够较快转化为利润;有的企业即使利用率达到60%甚至70%,仍可能因为硬件采购和能源成本较高而亏损。
倒三角生意经
当大模型行业陷入持续的价格竞争,部分厂商将输入Token价格压至每百万不足1元时,趋境科技选择聚焦企业级高品质Token赛道。
“高品质Token看似位于价值金字塔顶端,其价值结构实际上呈倒三角分布。”刘显赫表示,金字塔尖对应的是企业付费意愿最强、对生产效率影响最大的核心场景。
目前,趋境科技的Token产能主要用于编程(Vibe Coding)、Agent调用等场景。在这些场景中,Token的响应速度和稳定性会直接影响研发周期、人力成本与业务产出。这也是趋境科技暂不急于扩张C端市场的原因:一个大型企业客户的单日Token请求量,可能超过1000万个C端用户的请求总和。
“一个好的程序员,他的工时是很贵的。”刘显赫说,“在传统企业研发场景中,大量人力与组织成本被低效交互消耗,程序员深陷频繁会议、需求沟通、代码反复审阅等无效工作,核心编码与创新精力被严重挤占。如果企业可高效利用高品质Token,替代研发环节中50%—80%的低效交互,对企业来说,这意味着大幅削减隐性沟通成本、解放核心研发人力,真正实现降本增效与价值提升。”
刘显赫还引用“杰文斯悖论”解释Token需求增长:技术进步提高资源利用效率后,往往会进一步扩大资源的总消耗量。在他看来,推理价格下降并不意味着Token市场缩小。随着成本降低,原本因价格过高而无法落地的应用可能进入生产流程,智能体执行的任务也会变得更加复杂,最终推动Token总需求继续增长。
夹缝中的机会
当前Token工厂赛道仍处于群雄逐鹿早期,大量中小玩家涌入,长期瓶颈之一是高端算力供给。
随着海外限制高端AI卡供给,国内稀缺算力资源大量被大模型训练业务抢占,直接挤压推理环节的硬件供给,导致推理端硬件成本持续走高,推理服务厂商深陷“高硬件成本、低盈利空间”的双重挤压。
趋境科技提出两条路径:一是持续优化推理技术,提高现有硬件的单位产出,消化较高的算力成本;二是建设PD异构集群,将英伟达显卡与国产算力芯片混合组网,逐步提高国产硬件比例,最终推动全国产推理集群落地。
不过,PD异构集群需要重新设计组网架构,测算不同芯片的最优配比,并适配不同模型算子和精度需求。这不仅是软件调度问题,还涉及芯片性能、网络传输和模型结构,需要芯片厂商、模型厂商与推理服务商深度协同,可能成为区分Token工厂厂商技术能力的关键。
刘显赫认为,Token工厂会作为独立产业层长期存在,不会简单被云厂商或模型厂商取代。云厂商拥有基础设施和客户生态,模型厂商掌握模型能力,Token工厂则试图通过推理优化和异构调度提高单位算力产出,三者既存在竞争,也可能相互合作。
但一个绕不开的问题是:当智谱、Kimi等头部模型厂商拥有足够流量,自建集群也能维持较高利用率时,第三方Token工厂作为“中间层”的价值还剩多少?
刘显赫的回应是“合作共赢”:“行业未来的格局必然是分工协同。头部模型厂商会将最核心、最珍贵的算力资源优先投入模型训练与技术迭代,而规模化、高效率、高稳定性的推理服务,最终会交由专业化的Token工厂来承接。专业化分工之下,第三方Token工厂的价值不仅不会消失,反而会在产业成熟过程中愈发清晰。”