月账单1万美元之后,这家公司把Claude换成了自托管GLM

源自12位全网作者

13:15

一个工程师一个月在AI编程上花掉1万美元,老板看到账单的第一反应,不是心疼,是怀疑——这钱到底换来了什么。

英国金融科技公司Revolut就撞上过这一幕。2025年初,它先用Gemini帮工程师查资料、读文档;2026年初又上了Claude Code。

用量一铺开,部分工程师的月账单冲到1000美元,高的到1万美元,效率提升却没跟上。36氪

月账单1万美元之后,这家公司把Claude换成了自托管GLM

公司给AI编程设了Token预算。结果有点反直觉:额度越贵,工程师越不敢用。

复杂的代码生成才舍得调用,调试Bug、处理Jira工单、整理Confluence文档这些零碎活,宁可自己动手。钱是省下了,AI也被供了起来。36氪

Revolut干脆换了条路:把主力模型换成智谱的开源模型GLM,先上GLM-5.1,后升级GLM-5.3,自托管跑在自己的机器上。Claude Code和Codex只留给特殊情况。

账很快算出来了:约2000名工程师,56张英伟达B200。36氪知乎

月账单1万美元之后,这家公司把Claude换成了自托管GLM

每百万Token综合成本约0.30美元,只有原先商业服务的十分之一,整体推理账单也降到约十分之一。36氪

编码时间缩短约60%,从接需求到代码合并的交付周期缩短约70%。为什么后者降得更多?知乎

Revolut运维与基础设施负责人David Abitbol的解释是,工程师每天真正耗时的不是写代码,是排查Bug、回消息、处理工单、更新文档、跟流程。

Token便宜到不用精打细算之后,这些活也能交给智能体。代码写得快,只解决开发流程里的一段;整条链路松了,交付才快。

但这套账不是“换个模型”这么简单。56张B200只是入场券,后面还有部署、量化、推理优化和运维。

月账单1万美元之后,这家公司把Claude换成了自托管GLM

团队按真实负载重调超参数,用NVFP4量化,把Prefill和Decode拆开,重设缓存和上下文配置。GPU数量不变,每秒请求量提升了76%,首Token延迟从14.26秒降到1.68秒。36氪

Abitbol还有一句反潮流的话:长上下文是个骗局。100万Token的窗口,实际25.6万就够了。上下文越长,KV Cache越吃显存,每个请求都按百万Token预留资源是浪费。36氪

他们更关心任务真正需要多长、缓存能不能复用。

模型也没有全包。代码和文本交给GLM,图片识别、视觉理解仍走Gemini、GPT。按Abitbol的说法,开源成了默认,前沿模型成了例外,账单也从“月底突然一张大单”变成了固定支出。

当然,不是每家公司都能照搬。两千名工程师、56张B200、专门的推理团队,这些门槛摆在那里。

月账单1万美元之后,这家公司把Claude换成了自托管GLM

GLM在复杂长任务上的稳定性,和顶尖闭源模型仍有差距。知乎

低价能持续多久,也要看价格战怎么打。智谱2026年上半年开放平台及API收入8.25亿元,占总收入86.5%,但API业务毛利率为24.6%。36氪知乎

至于交付周期缩短70%,也很难只归功于模型便宜,流程本身得跟着改。

这笔账真正值得学的,不是“GLM比Claude便宜”,而是先把账单拆开:哪些活非最强模型不可,哪些活只要够用就行。

对个人和小团队,答案通常不是自建机房,而是把便宜模型用在长尾任务上,把贵模型留给真正难的那一小部分。

省钱的起点,往往不是换模型,是承认大部分Token花在了不需要最强模型的活上。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章