中国信通院今年10月发布的《大模型词元服务性能监测报告（2026年）》，给出了一组让企业重新审视AI预算的数字：国内词元价格较去年下半年翻倍，而2026年6月的日均消耗量约500万亿，是2025年12月的近4倍。归一化均价从6.8元升到13.46元，涨幅接近一倍。同样的AI业务量，2026年的账单天然比去年大出一截。知乎知乎
省钱空间同样有实测。LangChain给自家编码Agent加上模型路由后做了973个对照任务，每个任务的中位成本降了64%，质量没有明显下降。叠加缓存、压缩和批处理后，用现有工具把AI调用成本压缩一半以上是可验证的下限；阿里HiRoute团队的混合路由实验甚至记录了90%以上的降幅——不过那是厂商自测，两档模型价差悬殊。企业具体能省多少，取决于自己的任务结构。知乎知乎
同一个任务，不同模型的价格能差几十倍
《经济参考报》7月的报道提到，多份大模型评测报告今年首次新增成本维度：不同大模型完成同一任务的成本最高相差近20倍，计费过程仍是"黑箱"，用户难预测开支、难审计费用。"发一句’你好’消耗数万词元，一个季度花光全年AI预算"不再是段子。微博
浪费往往不在单价，而在调用结构。LangChain把可用模型分成三档，被路由的任务里只有10%落到最强档，56%去了中间档，34%去了最快档；三档的中位成本是2.88、1.50、0.097美元，相差30倍。全部压在旗舰模型上的企业，大半的钱花在了"杀鸡用牛刀"上。知乎
OpenCSG公布的评测给出了同一方向的另一组数字：在120个智能体任务的τ³-bench评测中，按其发布的自报材料，固定使用旗舰模型的成功率为83.33%、总费用69.73元，自动路由选模后成功率为85.83%、总费用13.35元，材料报告费用降低80.85%。需要强调：这是特定题集和评测环境下的厂商自报结果，只能说明方向，不能直接套到所有业务。知乎
四个降本杠杆，各有各的价目表
模型路由是收益最大的一步。RouteLLM论文（ICLR 2025）提出在强弱两个模型之间做路由，报告了在不明显损失质量的情况下降低超过一倍成本的结果。工程上，路由器根据问题特征决定请求交给哪个模型：分类、抽取、改写交给小模型，复杂推理、长文档综合才升大模型。LangChain还有个值得注意的设计决策——把路由器放在Agent内部而不是公司统一网关，因为选模型需要任务上下文，"什么样的bug修复可以交给快档"这种规则，脱离具体Agent根本写不出来。知乎知乎
提示缓存吃的是重复前缀的钱。Agent每次调用都要重发系统提示词、工具定义和历史对话，命中缓存的部分按折扣价计费。一份对主流平台的公开计费规则梳理显示：阿里云百炼隐式缓存命中按输入单价的20%计费，显式缓存命中为10%（创建按125%付费）；百度千帆命中按40%；腾讯云TokenHub命中约为常规输入价的四分之一到十分之一；DeepSeek的缓存命中单价约为未命中输入的2%到4%，比例在主流平台中较低。设计上要把不变内容放前面、用户输入放最后，命中率才保得住。知乎
上下文压缩砍的是冗余输入。LLMLingua论文报告，在部分基准上提示词压缩比例最高可达约20倍，性能下降较小。Netflix高级工程师Chopra开源的Headroom更直接：他认为高达90%的词元对所选模型是冗余的，主要是嵌套JSON、重复字段这类"伪装成文本的可压缩数据"；这款工具发布以来已为用户省下约70万美元和2000亿词元。知乎36氪
批处理适合不要求即时返回的任务：夜间报告、批量打标、离线评测。OpenAI的Batch API约五折、24小时内完成；国内平台折扣结构差异明显——火山方舟批量按在线价50%、命中缓存的输入还能再降约60%，百度千帆批量按40%计费而不是常见的五折，阿里百炼则明确批量推理与上下文缓存不能叠加。DeepSeek还有峰谷定价，空闲时段价格是高峰时段的一半——把可延迟任务挪到夜间，本身就是独立的降本动作。知乎
省多少，取决于这三个条件
这四步不能简单相加。路由改变模型分配、缓存改变命中结构、压缩改变输入长度，每一步都会改变请求结构，组合效果不能简单相加，只能拿自己的任务实测。通行的落地顺序是路由、缓存、压缩、批处理，定型前用同一批样本在各平台跑对照——同样的请求放进不同平台，最终账单差异可能比模型单价差异更大。知乎
省的和亏的要一起算。路由本质是成本换质量，先用一周历史请求做打标和对照，确认便宜档在你的任务上够格再扩大比例；压缩是有损操作，合同条款、数字、否定词要抽检并保留原文入口。换模型会损失缓存，但HiRoute的分析显示这是一次性开销：一轮调用n次，切换一次造成的整轮命中率下降不超过1/n。按他们的实验，10万token的历史切换一次，第1次调用命中率相差99个百分点，第20次只剩4.2个百分点——真正要避开的是长对话、每轮只有一两次调用又频繁切换的组合。知乎
最后一个条件藏在价目表里：缓存比例、批量折扣、是否可叠加、最小缓存长度各家规则不同，平台选择带来的账单差异可能超过模型单价本身。知乎
路由正在从企业内部走向公共网络
如果说以上还是企业自己的工程问题，11月初的几场发布说明"词元路由"正在基础设施化。11月6日，中国移动在广州移动网络大会上发布"智能网"，把三张网的分工概括为流量路由、模型路由、任务路由，分别对应字节、词元、任务三种计量单位。百度同期上线模型撮合平台"词元所"，汇集42款大模型，同一款模型接入多家供应商，报价、首Token延迟、7天调用成功率直接同台对比，页面还会标注价格节省比例。对企业用户，这意味着路由和比价能力正从自建工程层变成公共供给，选型议价的空间在变大。硬币的另一面是，面对激增的需求与阶段性算力紧缺，多家大模型企业的定价模式已在发生变化，词元账单管理只会更复杂。知乎36氪微博
对大多数企业，第一步不是急着买网关，而是拉出一周的真实调用记录，先统计自己的业务里有多少"简单活"——词元路由能省下的钱，上限就写在这个比例里。
