衡量全市场每百万LLM Token(大语言模型词元)支付价格的Silicon Data LLM Token支出指数,在经历了自去年12月创立以来近乎翻倍的狂飙后,目前已较5月份的高点大幅下跌了近20%。
“越来越多报告显示,由于成本过于高昂,那些使用以Token(词元)计价的AI(人工智能)解决方案的用户正不得不克制无节制的使用,”行业资深投资者Louis Navellier表示。
当前,AI产业的发展重心正由模型训练逐步转向推理应用,如何用更少Token消耗实现更强推理应用,正在成为大模型企业、Agent(智能体)应用公司关注的重点。
“我们月Token成本同比去年降低90%,1元Token的价值带来了460元产出。”税友股份亿企赢CPO(首席产品官)周源向《每日经济新闻》记者透露,成本下降,但使用的Token消耗量却是去年同期的两倍。
在软硬件协同的大背景下,Token的效率提升,不仅局限于模型、应用等层面,更漫溯至硬件层。
AI推理应用爆发,算力的需求不再仅仅局限于GPU(图形处理器),TPU(张量处理器)、AI ASIC(人工智能专用定制芯片)、NPU(神经网络处理器)等面向特定场景设计的XPU正在快速崛起,成为云服务商优化成本、提升效率的重要工具。
中昊芯英创始人、CEO(首席执行官)杨龚轶凡在接受《每日经济新闻》记者采访时提到,算力成本对AI商业化落地至关重要。当下绝大多数AI软件服务商毛利率不足40%,算力硬件开支是核心成本项。
从数字员工到数字组织 AI商业化“落地战”打响
周源向每经记者表示,当前,公司Token的月消耗在400亿—500亿。这在国内,当前属于中大型AI应用或垂直领域头部企业的典型用量级,而在去年同期,月Token消耗约在200亿—300亿区间。
Token消耗增长翻倍,但成本却在同比下降。这一部分得益于通用成本大幅降低,而另一部分,周源透露,他们在基础模型的基础上,基于自身的数据库资源,做了大量的Harness(算力调度驾驭层)工程优化,提高Token效率。
近期,税友股份发布的Agentic 2.0,其核心变化是引入A2A(Agent to Agent)协同架构。简单理解,以往AI会计、AI顾问、AI开票员是独立运行的工具;而在新的体系中,不同Agent之间能够共享信息、协同决策、自动分工。
从单体Agent升级到A2A协同,从数字员工提升为数字组织,从效率工具到产业新供给。另一方面,AI应用从工具化向结果化的交付,正在驱动上市公司业绩增长。
2026年一季度,税友股份营业收入4.88亿元,同比增长8.67%,归属于上市公司股东的扣除非经常性损益净利润增幅达33.28%。据了解,一季度业绩增长主要受益于数智财税业务的持续扩张与客户渗透深化。
也正基于这一增长趋势,税友股份给出了AI驱动的增长预期:到2026年,AI驱动收入有望占亿企赢整体收入的约50%;到2027年,公司希望进一步将这一比例提升至80%。
AI大模型商业化“落地战”,正在成为企业AI应用的试金石。
“AI大模型的商业模式日趋多元,当前已存在10种商业模式。其中,MaaS(模型即服务)、本地化部署、行业解决方案、C端订阅是当前最主流的商业模式。”《中国AI大模型商业化报告(2026年上)》报告(以下简称“报告”)指出,中国AI大模型商业化处于成长期,而非成熟期,在技术、成本、模式等方面面临挑战。
报告还提及,短期的快速盈利和长期的生态构建,是商业化要解决的核心问题。而面向个人用户及小微团队的订阅制模式,其核心挑战在于突破低付费率与产品同质化的瓶颈,目前仍处于“探路”阶段。
软硬协同趋势下算力成本为何至关重要?
应用层之下,模型层的头部通用大模型企业也在强化高性能和低成本优势。
今年4月DeepSeek-V4 Pro发布,备受市场关注,在其披露的技术报告中,DeepSeek表示,受限于高端算力,目前Pro的服务吞吐十分有限,预计下半年昇腾950超节点批量上市后,Pro价格会大幅下调。
算力对模型价格的影响,有了非常直观的体现。近日,有消息称,DeepSeek与智谱AI推进自研AI推理芯片,但这一消息目前尚未得到验证。而结合谷歌Gemini和其TPU芯片的软硬件协同,阿里千问大模型和平头哥的适配,芯模协同正在成为国产大模型的技术路径趋势之一。
国际研究机构Omdia认为,AI普及为提升中国本土半导体自给率创造巨大空间,国产算力芯片与AI模型的“芯模协同”将推动本土产能利用率提升。
中昊芯英CEO杨龚轶凡近日在接受每经记者采访时透露,目前正在推进和各类大模型适配工作,在芯片底层定制专属算力,实现芯片与模型深度耦合;同时联合调优能够大幅降低客户计算、推理的综合算力成本。
杨龚轶凡表示,当下绝大多数 AI 软件服务商毛利率不足40%,“如果能把单位算力成本减半,客户性价比直接翻倍,对应毛利率可以从40%提升至70%”。反之,如果算力成本居高不下,很多AI业务会陷入亏损、商业模式无法闭环。 因此,深度芯模协同、持续降低训练与推理成本是中昊芯英中长期核心合作方向。
6月30日,中昊芯英发布新一代高性能TPU AI专用算力芯片“须臾”,TPU架构全面升级,“须臾”单卡算力性能提升3倍;而搭载“须臾”芯片的泰则® 2.0 AI高性能智算平台,单机算力达7.168P ,单个超节点最高可实现2048芯片高速片间互联。
摩根士丹利发布最新半导体报告指出,AI产业的发展重心正由模型训练逐步转向推理应用,算力需求也因此更加多元。GPU仍将在训练和高性能计算领域保持核心地位,但AI ASIC、NPU等面向特定场景设计的XPU(异构通用AI处理器)正在快速崛起,成为云服务商优化成本、提升效率的重要工具。
其中,XPU并非单一产品,而是涵盖AI ASIC等各类面向AI计算场景的专用处理器。随着训练、推理及智能体(Agentic AI)等不同任务对算力需求不断细分,不同架构芯片将在各自擅长的场景中发挥作用。
在杨龚轶凡看来,Coding(编程)、AI智能体是当前商业化核心赛道,这类业务对长上下文、长程任务执行、A2A 多智能体交互的要求持续走高。TPU芯片公司核心工作是做极致硬件优化,持续压低整体算力使用成本。
对当前TPU芯片,杨龚轶凡提到重点有四大优化方向:即Prefill-Decode(预填充-解码解耦)分离专用硬件架构、超大模型分布式集群互联优化、低精度推理硬件原生加速、超大片上存储架构设计。