这个10月，大模型的"机房"大概是全年最忙的。
10月19日，MiniMax上线M3.1 Flash：线上推理速度提升近3倍，使用成本降低70%，API输入每百万tokens只要1元，缓存读取更是只要0.1元。往前数，Anthropic的Haiku 5.5把上一代单价砍掉90%，不过它适用于提示长度不超过10万Token的请求。DeepSeek宕机后，直接把网页端、App和API后面的模型全量换成V4.1-Flash-1017，价格不变、当场变快。智谱灰度的GLM-5.3-Highspeed，甚至被UP主实测跑出每秒490token。微博知乎知乎哔哩哔哩
很多人第一反应：又是价格战，资本烧钱换好感？恰恰相反——这一轮，"更快"和"更便宜"本来就是同一件事的两面。
一行算式就能锁住推理的价格：每token成本 ≈ 单卡小时价 ÷ 吞吐量。显卡反正都在烧，同样的小时里多吐一倍的token，每个token的成本就薄一半。所以给推理提速，天然就有降价的资格——烧钱换市场撑不了几轮，从工程里抠出来的速度才是真便宜。
速度是从哪抠出来的？三个杠杆：
杠杆一：让模型自己"少废话"。Flash系列这一轮普遍在压缩思考的啰嗦程度。DeepSeek对1017版的官方口径是"在提升性能的同时，缩短了任务运行时间与输出长度"，让用户以更快速度、更低成本完成任务。单价没动，任务的账单先瘦了。微博
杠杆二：让推理框架"榨水"。据B站UP主转述，新版vLLM把DeepSeek的推理性能拉升了1.9~5.3倍。更硬核的是Kimi K3在16张GB300上开启投机解码后的测试：单请求decode跑到842 tokens/s，比原版vLLM快1.73倍。注意条件很苛刻，这是"纯输出"的天花板演示，别当成你日常Agent的体感。哔哩哔哩知乎
杠杆三：KV Cache，今年的隐藏主线。同一个问题问100遍，前99遍的思考结果是可以复用的——缓存命中的价格是"复读"价，不是"重读"价：MiniMax把缓存读取标到0.1元/百万tokens，只有输入的1/10。那个490 tok/s的灰度实测里，缓存命中率高达99.9%。有人跑了十多家智算中心后发现：生产环境卡脖子的往往不是算力本身，而是KV Cache"存不下、调不动"。10月5日vLLM发布0.31，正式把缓存从"模型内部的临时状态"升格为推理平台要管理的数据基础设施。cache从省钱小技巧，升级成了基础设施。微博哔哩哔哩微博知乎
落到普通用户，行动建议三条：
比价别看标价，看"单任务成本"。号称降90%，实际适用范围只到提示长度10万Token的请求。小字要一起算。知乎
长上下文、Agent重度用户，优先选缓存计费友好的家。0.1元和1元/百万tokens是10倍的差距，命中与否全看你喂上下文的方式。
看到"自测速度纪录"，先别急着为本地部署掏钱；也别以为免费是常态。DeepSeek已公布Search与Fetch接口价格均为5元/千次，每1000次成功请求5元，免费窗口只到11月1日。跑Agent的任务=模型推理+搜索+抓取，全链路账算完，再决定换哪家。第一财经界面新闻微博
机房不做慈善。速度就是钱，缓存就是钱，你收到的每一分降价，都是从引擎室的本子里省回来的。
