一周之内,两场「开源」撞在了一起:10月20日,DeepSeek把支撑自家线上服务的推理框架DeepInfer放上GitHub;10月23日,MiniMax放出M3.1 Flash的模型权重,这个上线72小时处理超过100万亿Token的模型,四天前才刚刚开放API。很多用户看到「开源」两个字,第一反应是下载到自己电脑上无限免费用,但现实分层很清晰:普通人能「免费调用」的是官方免费入口、第三方生态放出的免费额度和小参数本地模型三类,刚放出的千亿参数新模型,个人硬件基本跑不动。开源给普通用户的最大红利,不是在家白嫖大模型,而是整条成本曲线被压下来,免费和低价的供给变多了。知乎
开源的权重和工具是工业级资产,家用电脑够不着
先算「自己跑」这笔账。MiniMax这次开源的M3.1 Flash总参数约428B,48个权重分片加起来约250GB——得益于路由专家在训练阶段就做了4-bit量化,这已经比上一代同级模型约850GB的BF16权重小了一大半,但依然远超出家用设备的承载能力。那位作者的结论写得更直接:个人基本跑不动,小团队要看手上是什么卡,对大多数开发者来说现实的用法仍然是调API。知乎
DeepSeek这边则是「工具全家桶」的最后一步:模型权重、TileLang编译工具、DeepGEMM算子库、DeepEP通信库此前都已开放,这次补上的是最难啃的推理框架。开源的DeepInfer采用Apache 2.0协议,配套的生产级Token编解码组件deepseek-recipe采用MIT协议,官方统计里平均每个请求输入77K Token、首字延迟约400毫秒。按雷峰网的转述,这次放出的主要是离线推理版本,线上服务所需的KV缓存管理和负载均衡组件尚未全部公开,支持的硬件也还有限。知乎36氪雷峰网
即便完整拿到这套东西,门槛仍是数据中心级的:官方建议的最小部署单元是64卡预填加64卡解码,家用电脑连入门都够不着。光明网的评估则点出了这次开源的位置:在全球头部大模型企业中,DeepSeek是首个把原生实际运行的推理框架开放出来的企业。光明网
普通人免费用,现实路径就三条
第一条最简单:用官方聊天入口。DeepSeek的网页版和App对话面向普通用户长期免费,日常问答、写作、翻译不花钱,这也是各路使用笔记里最省事的方案。小红书
第二条是这次开源潮里新长出来的:白嫖第三方生态放出的免费额度。有社区开发者给DeepSeek Harness做了款插件,装上dsh-our-free-model后,不用登录、注册或填API Key,就能调用多款主流模型。这类插件聚合的免费模型来自OpenCode、Kilo等平台公开的免费额度,清单跟随上游实时刷新,一个模型撞了限额就自动换下一个。知乎
第三条是本地部署,但只适合小模型。一位内容创作者在64GB统一内存的Mac Studio上跑过千问27B的Q4量化版,模型文件约19GB,日常问答每秒能出几十个字,可一旦放进真实研究任务,27个任务没有一个干净完成,一份249页扫描件跑了约11.7小时后上下文直接撑爆。他的阶段性结论是,不太推荐普通人折腾本地部署——例外只有两种:愿意为高端硬件花一大笔钱,或处理的数据必须保密、不能离开本地硬盘。换句话说,本地小模型适合离线、隐私敏感和尝鲜场景,把它当「免费无限用大模型」的替代方案,时间成本反而更高。知乎
开源真正的红利:价格战砸下来,免费供给变多了
过去「免费额度」稀缺,根子在于部署能力的错位:模型开放权重之后,低成本运行模型的工程能力仍然掌握在原厂手里,第三方压不出接近官方API的成本,自然没多少额度可送。DeepInfer把原厂打磨多年的降本手艺摊给全行业,能低本部署同一款模型的玩家会多起来,愿意拿免费额度引流的第三方也会跟着变多——这是普通用户吃到的连锁红利。雷峰网
价格信号已经出来了。MiniMax官方口径里,M3.1 Flash能力全面提升的同时,使用成本较上一代降低70%。本月海外阵营也在跟牌:Anthropic把Haiku 5.5短请求价格压到每百万输入Token 0.1美元、输出0.5美元,只有上一代Haiku的十分之一;OpenAI的GPT-6 Luna输入价也从0.2美元降到0.1美元。放到开源阵营自己的账本上看,按官方博客引用的DeepSWE对比,M3.1 Flash最高档单任务成本约1.9元,DeepSeek同期约1.4元——即便完全免费的额度用尽,重度任务的直接花费也已压到几元级别。知乎雷峰网
「免费」没写出来的三条边界
免费额度的来源和稳定性是第一道坎。那款免登录插件的介绍帖就明确提醒:免费额度来源不透明,可用模型稳定性有待提升,不建议用于生产环境或敏感数据场景。白嫖姿势更适合尝鲜和轻量任务,要紧的活还是走官方入口或低价API。知乎
第二道坎是「开源」不等于「随便用」。M3.1 Flash在Hugging Face上的模型卡里,用于授权通知的邮箱并非常规官方域名地址,商用前建议通过MiniMax官网渠道确认许可证原文和联系方式。只是用官方入口聊天的用户不涉及这一层,但把内容发进云端接口,就要接受它会经过服务方的处理链路——免登录的免费通道尤其别喂敏感资料。知乎
第三道坎是预期:免费不等于稳定,也不等于满血。模型清单会随上游额度变化实时涨落,真正划算的用法是把三层方案叠起来——日常对话交给官方免费入口,折腾工具链用社区免费额度,隐私敏感或断网场景留给本地小模型。DeepSeek与MiniMax这轮相继开源,不会把428B的大模型搬上你的书桌,但它把每一层的成本都往下按了一截:对普通人来说,这才是「免费调用大模型」正在变多的真正原因。
校验提示文案
校验提示文案