五月,亚马逊关掉了一个内部排行榜。榜上比的是员工消耗了多少 Token。有人为了名次,让 AI Agent 去跑没有实际意义的任务——跑得越多,排名越高。36氪
十月,亚马逊工程管理层修订了软件工程师的岗位指导准则。副总裁、杰出工程师 Terk Terkowitz 在文件里写道:
我们最高产的工程师已经证明,无论是开发者的角色定位,还是他们创造的成果,都不应该由 AI 的使用情况来定义。36氪亚马逊

这不是一家公司的转向。八月,微软执行副总裁 Jay Parikh 给内部开发团队发邮件,“Tokenmaxxing 不是我们追求的目标”。
六月,AWS CEO Matt Garman 也建议按任务挑模型,日常任务不必都上旗舰。
大厂集体踩刹车,先是因为账单。
Gartner 分析师 Nitish Tyagi 提过一个案例。一家印度 IT 公司的开发者,一个月用掉折合两万美元的 AI 额度,惊动了管理层。知乎
他在做遗留系统改造,这笔钱被认定花得值。
同期,亚洲一家大银行给几千名开发者开了编码助手,三个月后账单远超预期。
原因很朴素:不管任务难易,所有人默认选了最贵的旗舰模型。埃森哲在报告里写,没人做错什么,只是预算流程根本看不到这件事。知乎
钱到底花在哪一步?康考迪亚大学的一项实验把多 Agent 开发系统的消耗拆开了。
按 Token 类型分,输入占 53.9%,模型输出占 24.4%,内部推理占 21.6%。
按研发阶段分更反直觉:写代码只占 8.6%,架构设计 2.4%,代码审查占 59.4%。知乎

审查加代码补全,吃掉超过 86% 的算力;后续验证、测试与修复,消耗可以是初次生成代码的 4 到 20 倍。
写代码便宜,改代码贵。贵在一个隐蔽的环节:每改一轮,系统都要把整个文件、接口定义、历史对话重新打包送进模型,再付一次钱。知乎
研究者管这叫"通信税"。斯坦福、密歇根等机构今年四月的实证研究指向同一处:
真实软件工程任务里,编码 Agent 的 Token 消耗约是普通代码问答的 1000 倍,大头是读进去的上下文,不是写出来的代码。

那多花钱,能不能换来更好的结果?
在 SWE-bench Verified 上,同一任务多次运行,Token 消耗最多相差 30 倍。
消耗量和准确率没有线性关系,很多任务在中等花费时解决率就到顶。再加思考轮数和重试,准确率反而趋平甚至回落。
研究者翻了花费最高的几次运行,发现 Agent 反复查看、反复修改同一个文件的次数明显更多。多烧的那部分,多半在原地打转。
模型自己也预判不了。最顶尖的模型事前预测 Token 消耗,相关系数最高只有 0.39,还普遍低估。
所以该盯的不是消耗量,是"单次成功结果成本"。
跑十次代码修复,每次十美元,账面一百;只有五次能合进主干,那每次成功的真实成本是二十美元,不是十。失败的尝试和重试,都要算进成功交付里。知乎

反过来,旗舰模型一次三美元解决,单位成本就是三美元;便宜模型单次五毛,却因理解不足反复报错重试八次,最后花掉四美元,还搭上等待时间。
按这个口径,OpenAI 的变化更能说明问题。Epoch AI 依据其九月公布的内部数据测算:
中位数研究员每天的编码 Agent 用量,从一月的不到一美元涨到八月中旬的 601 美元;前 10% 每天超过 7000 美元。
Gartner 的调研里,23% 的技术管理者每月为每位开发者花 200 到 500 美元。到 2028 年,AI 编码成本可能超过开发者平均薪资。而合理使用 AI 的效率提升,评估上限约 20%。
成本和收益这样错位,治理就不能靠喊口号。
收益最高的一步是管上下文,少交通信税。传代码差异和接口签名,别把几十个关联文件全塞进去。
固定的系统提示、长指令和代码库骨架开提示词缓存,命中时输入单价通常能到一折。
再往下是把选模收归网关,按任务分流。埃森哲调研里,65% 的企业给员工做过 AI 使用与成本培训,选错模型的问题依然存在。
靠个人自觉不可靠。

更细的一层,是改一处、验一处。知乎上有个叫 token-tab 的开源 skill,读编码 Agent 自己写下的会话日志,整理成逐项账单。
它指出反复出现的浪费,附上精确到日志行的证据。规矩很克制:一次只挑一处改动,前后各收集至少五个同类会话,看任务过没过。
文档里写着:REVERT 优先于任何节省,更便宜但失败更多的智能体,并不真的便宜。
它给的示例也标了「不是真实数据」:关掉两个从没用过的 MCP 服务器,开场 Token 从约 26000 降到 15000,成本中位数降 31%,通过率从 9/10 变成 10/10。知乎
架构层面还有更彻底的做法。Arize AI 的 Mikyo King 在 AI Engineer 大会上讲,他们把 Agent 从「工具调用」迁到「代码模式」。
不再塞现成工具,而是给一个可编程沙箱,让模型自己搜索、组合工具。结果 token 用量减少 43%,成本下降 31%,延迟稳定。哔哩哔哩
代价是沙箱的资源、网络出口、密钥和权限都要重新设计。
亚马逊那份文件里还有一句容易被忽略的话:如果你当前的工作无法从现有 AI 工具中获益,这是一项发现,而不是一次失败。36氪
账单涨了不可怕,怕的是把数字当成了成绩。
排行榜关掉了。账单还在。