国产算力把大模型变便宜了?便宜的那一半,在你的电脑里

源自599位全网作者

10-31 15:43

10月22日,科大讯飞发布星火X2.6,全程国产算力训练。模型有2930亿参数,支持100万上下文。价格表很直接:输入0.9元/百万tokens,输出3.6元,缓存命中0.08元;配套的4B端侧模型开源,推理限时免费。星辰MaaS平台还送10亿tokens,不是程序员也能领。量子位微博

看到这里,很容易得出一个结论:国产算力终于把大模型打便宜了。

但这个结论只说对了一半。另一半是:2026年的国产大模型,云端整体在涨价。

中国信通院《大模型词元服务性能监测报告(2026年)》给了一个反直觉的数字:国内大模型归一化均价,从2025年下半年的6.8元/百万tokens,涨到2026年的13.46元,接近翻倍。知乎

不是厂商突然黑心,是算力真的不够。国家数据局的数据显示,2026年3月国内日均词元调用量已突破140万亿,2024年初只有1000亿。需求涨得太快,供给跟不上:DeepSeek今年5月用户量涨了66.7%,算力只增8.3%。Kimi K3.1 Pro上线不到48小时,月之暗面就因限流发出致歉公告。DeepSeek官方状态页显示,今年已出现数十次服务异常。新华网知乎36氪

厂商的动作也很一致。6月底,DeepSeek引入峰谷计费,工作日高峰价格直接翻倍;8月又公告整体上调API价格。中国经济网

所以,星火X2.6的0.9元、3.6元,前面挂着“限时”两个字。它是真的便宜,但不是长期的、无限量的便宜。

算力不够,逼出了两个结果:云端涨价,端侧免费。

10月22日的发布会上,刘庆峰说了一句很关键的话:国产算力跟英伟达比还差将近两代,差距主要在显存和带宽;“因为国产算力本身现在也有限,所以我们定位是云端结合端,云端模型我们也不会做太大的”。钛媒体

翻译过来就是:不是不想把云端做大,是算力不够。于是讯飞换了个方向——把模型做小,放到端侧。训小模型,算力是够的。钛媒体APP

星火X2.6-4B就是这么来的。4B是40亿参数,模型开源,支持100万上下文。有人把它量化到约2.6GB,8GB内存的笔记本就能跑,断网也能用,不产生任何token费用。讯飞自己的评测里,同尺寸端侧模型能独立完成的智能体任务比例,行业平均约12.8%,这个4B做到了41.9%。抖音知乎

量子位做过一次实测:一台只有AMD核显、没有独显的电脑,纯CPU跑Q4量化版,6.8分钟做完一份跨文件的经营复盘,完成度约九成。另一个场景更实用:先让本地4B把合同里26项敏感信息替换成占位符,确认没有残留,再联网交给云端审合同,原始文件全程不出端。量子位

这就是普通用户能直接拿到的“零边际成本”:整理会议记录、提炼长文、给敏感材料脱敏、写初稿,这些活本地干,不花钱,也不上传。

免费额度也是真的:10亿tokens,不是程序员也能领。但要用起来,多少得会一点API或者客户端。如果你不打算折腾,这部分可以先放一边——普通人更容易拿到的,还是本地那个4B。小红书

如果你要用,记住三个限定:限时、限速、版本可能不是最新的。算力一紧,免费层首当其冲。稳妥的用法是拿它去试你拿不准的复杂任务,试完再决定要不要付费;别把每天的工作流建在限时价上。

日常用起来,把任务分两堆就行。一堆放本地:简单的、重复的、涉及隐私的、可以离线的——整理、摘要、脱敏、初稿。用那个4B,或者别的开源小模型,装个Ollama、LM Studio就能跑,不用写代码。一堆放云端:复杂的、需要最新知识的、长上下文的、要跑工具的——交给云端的强模型。

这其实也是星火X2.6自己的设计:端云路由,简单任务留在本地,复杂的上云,官方说路由准确率96.1%。厂商在算力约束下做的取舍,恰好也是普通用户省钱的办法。量子位

回到开头。国产算力有没有把大模型变便宜?有。但它便宜的不是“云端API永远低价”,而是“一部分任务可以搬回你自己的设备”。

今天就能试:装个Ollama或LM Studio,把4B下载下来,找一件你本来要翻十几个网页的活,看它能不能在你自己的电脑上干完。会用API的话,再把那10亿tokens领了。干完这一遍,你就知道这份实惠到底值多少。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章