更强推理更少Token消耗背后:AI产业链如何算好商业化的账?
创始人
2026-07-09 03:44:41
0

每经记者:叶晓丹 每经编辑:黄胜

衡量全市场每百万LLM Token(大语言模型词元)支付价格的Silicon Data LLM Token支出指数,在经历了自去年12月创立以来近乎翻倍的狂飙后,目前已较5月份的高点大幅下跌了近20%。

“越来越多报告显示,由于成本过于高昂,那些使用以Token(词元)计价的AI(人工智能)解决方案的用户正不得不克制无节制的使用,”行业资深投资者Louis Navellier表示。

当前,AI产业的发展重心正由模型训练逐步转向推理应用,如何用更少Token消耗实现更强推理应用,正在成为大模型企业、Agent(智能体)应用公司关注的重点。

“我们月Token成本同比去年降低90%,1元Token的价值带来了460元产出。”税友股份亿企赢CPO(首席产品官)周源向《每日经济新闻》记者透露,成本下降,但使用的Token消耗量却是去年同期的两倍。

在软硬件协同的大背景下,Token的效率提升,不仅局限于模型、应用等层面,更漫溯至硬件层。

AI推理应用爆发,算力的需求不再仅仅局限于GPU(图形处理器),TPU(张量处理器)、AI ASIC(人工智能专用定制芯片)、NPU(神经网络处理器)等面向特定场景设计的XPU正在快速崛起,成为云服务商优化成本、提升效率的重要工具。

中昊芯英创始人、CEO(首席执行官)杨龚轶凡在接受《每日经济新闻》记者采访时提到,算力成本对AI商业化落地至关重要。当下绝大多数AI软件服务商毛利率不足40%,算力硬件开支是核心成本项。

从数字员工到数字组织 AI商业化“落地战”打响

周源向每经记者表示,当前,公司Token的月消耗在400亿—500亿。这在国内,当前属于中大型AI应用或垂直领域头部企业的典型用量级,而在去年同期,月Token消耗约在200亿—300亿区间。

Token消耗增长翻倍,但成本却在同比下降。这一部分得益于通用成本大幅降低,而另一部分,周源透露,他们在基础模型的基础上,基于自身的数据库资源,做了大量的Harness(算力调度驾驭层)工程优化,提高Token效率。

近期,税友股份发布的Agentic 2.0,其核心变化是引入A2A(Agent to Agent)协同架构。简单理解,以往AI会计、AI顾问、AI开票员是独立运行的工具;而在新的体系中,不同Agent之间能够共享信息、协同决策、自动分工。

从单体Agent升级到A2A协同,从数字员工提升为数字组织,从效率工具到产业新供给。另一方面,AI应用从工具化向结果化的交付,正在驱动上市公司业绩增长。

2026年一季度,税友股份营业收入4.88亿元,同比增长8.67%,归属于上市公司股东的扣除非经常性损益净利润增幅达33.28%。据了解,一季度业绩增长主要受益于数智财税业务的持续扩张与客户渗透深化。

也正基于这一增长趋势,税友股份给出了AI驱动的增长预期:到2026年,AI驱动收入有望占亿企赢整体收入的约50%;到2027年,公司希望进一步将这一比例提升至80%。

AI大模型商业化“落地战”,正在成为企业AI应用的试金石。

“AI大模型的商业模式日趋多元,当前已存在10种商业模式。其中,MaaS(模型即服务)、本地化部署、行业解决方案、C端订阅是当前最主流的商业模式。”《中国AI大模型商业化报告(2026年上)》报告(以下简称“报告”)指出,中国AI大模型商业化处于成长期,而非成熟期,在技术、成本、模式等方面面临挑战。

报告还提及,短期的快速盈利和长期的生态构建,是商业化要解决的核心问题。而面向个人用户及小微团队的订阅制模式,其核心挑战在于突破低付费率与产品同质化的瓶颈,目前仍处于“探路”阶段。

软硬协同趋势下 算力成本为何至关重要?

应用层之下,模型层的头部通用大模型企业也在强化高性能和低成本优势。

今年4月DeepSeek-V4 Pro发布,备受市场关注,在其披露的技术报告中,DeepSeek表示,受限于高端算力,目前Pro的服务吞吐十分有限,预计下半年昇腾950超节点批量上市后,Pro价格会大幅下调。

算力对模型价格的影响,有了非常直观的体现。近日,有消息称,DeepSeek与智谱AI推进自研AI推理芯片,但这一消息目前尚未得到验证。而结合谷歌Gemini和其TPU芯片的软硬件协同,阿里千问大模型和平头哥的适配,芯模协同正在成为国产大模型的技术路径趋势之一。

国际研究机构Omdia认为,AI普及为提升中国本土半导体自给率创造巨大空间,国产算力芯片与AI模型的“芯模协同”将推动本土产能利用率提升。

中昊芯英CEO杨龚轶凡近日在接受每经记者采访时透露,目前正在推进和各类大模型适配工作,在芯片底层定制专属算力,实现芯片与模型深度耦合;同时联合调优能够大幅降低客户计算、推理的综合算力成本。

杨龚轶凡表示,当下绝大多数 AI 软件服务商毛利率不足40%,“如果能把单位算力成本减半,客户性价比直接翻倍,对应毛利率可以从40%提升至70%”。反之,如果算力成本居高不下,很多AI业务会陷入亏损、商业模式无法闭环。 因此,深度芯模协同、持续降低训练与推理成本是中昊芯英中长期核心合作方向。

6月30日,中昊芯英发布新一代高性能TPU AI专用算力芯片“须臾”,TPU架构全面升级,“须臾”单卡算力性能提升3倍;而搭载“须臾”芯片的泰则® 2.0 AI高性能智算平台,单机算力达7.168P ,单个超节点最高可实现2048芯片高速片间互联。

摩根士丹利发布最新半导体报告指出,AI产业的发展重心正由模型训练逐步转向推理应用,算力需求也因此更加多元。GPU仍将在训练和高性能计算领域保持核心地位,但AI ASIC、NPU等面向特定场景设计的XPU(异构通用AI处理器)正在快速崛起,成为云服务商优化成本、提升效率的重要工具。

其中,XPU并非单一产品,而是涵盖AI ASIC等各类面向AI计算场景的专用处理器。随着训练、推理及智能体(Agentic AI)等不同任务对算力需求不断细分,不同架构芯片将在各自擅长的场景中发挥作用。

在杨龚轶凡看来,Coding(编程)、AI智能体是当前商业化核心赛道,这类业务对长上下文、长程任务执行、A2A 多智能体交互的要求持续走高。TPU芯片公司核心工作是做极致硬件优化,持续压低整体算力使用成本。

对当前TPU芯片,杨龚轶凡提到重点有四大优化方向:即Prefill-Decode(预填充-解码解耦)分离专用硬件架构、超大模型分布式集群互联优化、低精度推理硬件原生加速、超大片上存储架构设计。

每日经济新闻

相关内容

更强推理更少Token消耗...
每经记者:叶晓丹 每经编辑:黄胜 衡量全市场每百万LLM Toke...
2026-07-09 03:44:41
高温“烤”验全球,这些科学...
中新网北京7月8日电 题:高温“烤”验全球,这些科学家为何重返恐龙...
2026-07-09 03:44:34
新京报社社长毛晓刚:搭建跨...
新京报社党委书记、社长毛晓刚。 新京报贝壳财经讯(记者罗亦丹)“站...
2026-07-09 02:52:42
东西问|武琼芳:敦煌石窟多...
中新社兰州7月8日电 题:敦煌石窟多元服饰文化如何见证千年流行时尚...
2026-07-09 02:52:05
自由互惠保险如何为AI规模...
随着AI技术席卷各行各业,自由互惠保险公司(Liberty Mut...
2026-07-09 02:51:34
专家解读:湖北龙卷风为何威...
新华社武汉7月8日电(记者张阳、龚联康)6日晚,湖北东部地区出现大...
2026-07-09 01:13:26

热门资讯

原创 如... 肺是人体非常重要的器官,空气中的很多灰尘和垃圾都会随空气进入肺部,所以肺部的清洁是非常重要的。我们可...
孕妈检测出胎儿没有“胎心”究竟... 原标题:孕妈检测出胎儿没有“胎心”究竟为何?多半是这4种原因,预防下 昨天小樱...
耳聋耳背知识分享-----耳朵... 耳朵听力下降恢复方法首先要找出听力下降的病因,其次针对病因进行对症治疗。 耳朵听力下降,如何恢复听...
激光术后护理指南:如何科学恢复... 二氧化碳激光是一种常用于去除瘢痕、色素沉着、皱纹和其他皮肤问题的治疗方法。它通过发射高能量的二氧化碳...
如何有效应对低血压问题,提升生... 血压低,这个问题在生活中并不罕见。很多人可能会觉得,血压低就像是个小毛病,不用太在意。但实际上,低血...
郑州银行大额存单利率:1、活期... 导读2022郑州银行大额存单利率一、存款利率:1、活期存款:0.3%2、整存整取:三个月1.60%,...
孩子自控力差?家长如何引导培养 孩子自控力差?家长如何引导培养 在孩子的成长过程中,自控力是一项至关重要的能力。它关乎孩子的学业表现...
原创 婴... 在宝宝的成长过程中,奶粉作为重要的营养来源,其选择至关重要。那么,什么样的婴儿奶粉比较好呢?奶粉的营...
原创 高... 《水浒传》中,那些绿林好汉多半是不近女色的,比如晁盖登场时,书中就提到这么一句。 “那东溪村保正,姓...
存款利息怎么算?湖南农商行存款... 导读湖南农商行存款利息怎么算?湖南农商行作为湖南最大的股份制银行,它是一家地方性、集约化、国际化、股...