最近马斯克回复了一则流传很广的故事:有人嫌每月200美元的AI会员太贵,花十几万元买了两台Mac Studio自己跑大模型,用下来的结论是——还不如线上AI好用!评论区吵翻了:是他账算错了,还是这账本来就不该这么算?今天把这笔账正着算一遍。小红书

第一笔:装好那天,才是账的开始。
很多人以为显卡预算就是全部账。一位真在跑的知乎答主——个人服务器常年挂着30B、32B模型,70B量化版塞进128GB显存对外服务——把跑起来之后的第一体会归成一句话:部署本身是最便宜的一步,真正的成本在后面。电费是持续累积的,显存是被一直占死的,服务半夜挂了你得自己爬起来修;调API是把这些成本外包给了厂商,自己部署,就是把成本从账单挪到自己的时间表上。知乎
第二笔:“token自由”是个假自由。
本地确实没有按token计费的账单,但这份自由被显存框死:70B的Q4版能跑,速度、并发、上下文长度全是打折的。云端的账面也不体面:智谱的编程套餐有一档从149元涨到了538元。DeepSeek又在11月15日调整了对话上限长度。有人把三家常订会员按年付抄了一遍总账:一年2884元,月度额度月底清零不结转,闲置超过2.4个月折扣就变成罚款——“年付不是优惠,是预付”,它把“用不上”的风险从厂商挪到了用户身上。两边僵持的点就在这儿:订阅贵,本地烦。知乎知乎知乎知乎

第三笔:只有三类人真该装。
那位答主的标准值得原样抄下来:数据不能出内网的、要离线用的、用量大到API账单肉疼的,对不上这三条,老老实实调API更划算。三条里最硬的是隐私——现在合同里越来越多出现禁止把私密数据上传AI的条款,做敏感素材的创作者干脆把模型搬进自己机器:所有数据均在本地,不联网不会透传给任意三方。知乎上还有个真实提问:律师为了不上传敏感资料,宁可搭8张V100、功耗数千瓦的本地AI服务器,值不值。重度用量这档也有真实账本:有人每月约300美元订阅实测,光ChatGPT Pro一档单月就跑出17亿token。用量固定,本地均摊才开始算得过来;用量忽高忽低,闲置成本会把省下的钱全部吃回去。离线那一档,高铁上、飞机上干活、内网隔离的现场,云端根本够不着。知乎小红书小红书知乎知乎

最后补一刀容易忽略的账:模型三个月后发新版,跟不跟?跟,重新下载、重新测、重新部署;不跟,慢慢落后。而云端API替你做了这道选择题,本地要你每三个月自己做一次——本地部署不是技术问题,是成本结构问题。知乎
所以开头那位买两台Mac Studio的玩家,错的不是硬件价,是顺序:对不上“数据、离线、用量”三条里的任何一条,别为了“token自由”四个字去部署,那四个字是幻觉。至于咱们普通人,眼下这订阅费,省不省钱先按下不表——先把那三条对一遍再说。知乎
当前文章无评论,是时候发表评论了