11月16日上午,阿里正式发布Qwen4-Max,但眼下能摸到的只有云端:千问AI平台API、Token Plan,以及千问办公、Qoder、千问App这些应用。 对想把它跑在自己电脑上的人,官方给到的全部依据只有一句:Qwen4系列的中小尺寸模型将陆续开源发布——没有时间表,也没有尺寸清单。 等待期真正值得做的准备,是分清官方口径与社区传闻、盯住推理框架适配进度、按三笔账规划显存预算,并趁云端降价先用API把“本地到底要不要”验证清楚。知乎知乎
先把官方说的和猜的分开
目前已确认的事实是,Qwen4-Max总参数2.4万亿、每token激活71B、带328B N-gram Embedding参数,支持原生视觉和百万token上下文。 而开源的小尺寸模型是什么规格、多大参数量、什么时候放,官方一概未披露。社区流传最广的“Qwen4-27B”,来自上一代Qwen3.8开源27B、Flash-Next等型号后的类推期待,“27b什么时候开源”就是热榜里的代表性提问。 B站视频里“架构与前代基本一致、4-bit模型约16.5GB、24GB显存即可流畅运行”等说法,则是自媒体基于前代的估算,没有官方背书。 这层区分很实用:按传闻参数备硬件,一旦开源尺寸不同,预算就全盘作废。现在能做的,是把关注点放在qwen.ai官方博客、魔搭与Hugging Face的千问官方账号上,等官方口径再动手。知乎知乎哔哩哔哩
第一道坎是框架适配,不是权重
这一代Qwen4动了架构。官方称其全新架构围绕Attention、Residual和Embedding三个方面对稀疏MoE模型进行系统升级。 社区分析进一步指出,它是全新MoE架构,基于Qwen稀疏注意力(QSA)并配合GatedDeltaNet等组件。 架构换代的本地部署含义是:权重放出来那天,未必是它能在你机器上跑起来的那天——llama.cpp、vLLM、Ollama、MLX以及社区流行的Strata等推理引擎,需要先支持新算子与量化格式,第一波可用的GGUF包往往在框架合并之后数天到数周才出现。知乎知乎
适配竞速已经开跑。11月上旬,社区常用的本地推理框架Strata发布0.2.13版本,被UP主形容为给Qwen4提前铺好路。 有本地推理项目把长上下文缓存优化直接标成了“为qwen4-27b做好准备”。 连做算力设备的商家也公开表态,开源一出就立刻跟进适配。 对普通用户,此刻更划算的准备不是囤新卡,而是选定自己常用的引擎,盯住它的release notes与千问支持issue。哔哩哔哩哔哩哔哩哔哩哔哩
显存按三笔账算,别为传闻买卡
显存要按三笔账算。本地部署最容易算错的数就是显存:大家只问“这个模型装得下吗”,但装得下只占显存开销的三分之一,剩下三分之二是KV cache和框架开销,往往在跑长上下文时才冒出来。 参考前代Qwen3.8-27B的实测经验,4-bit量化文件约16GB,有部署教程验证过12G显存也能运行。 官方规格公布前,先用“显存减去权重文件大小、剩余留给KV和上下文”粗算一遍,就能判断开源当天要不要升级硬件;同时备好15GB级模型的NVMe存储空间和稳定下载环境,这部分几乎不会浪费。哔哩哔哩哔哩哔哩
还有一点值得留个心眼:如果Qwen4的稀疏注意力设计延续到开源小模型上,长上下文下的KV增长有望放缓,自媒体已给出128K上下文约57 tokens/s生成速度的预估,但这属于待验证的推论。哔哩哔哩
先用云端验证场景,再决定等不等
最后一个最省钱的准备:先确认本地是不是真需求。这次发布同步下调API定价,缓存命中每百万token低至0.5元。 按Work360评测口径,单任务平均费用从上一代的26.58元降到11.16元,降幅58%,且API价格全线下调。 云端账单下来了,“买卡省钱”的旧账就要重算:只有数据必须留在本地、需要断网可用,或长期调用量大到能摊平硬件投入,本地部署才真正划算。知乎知乎知乎
验证窗口就在眼前:Qwen4-Max-Preview在Token Plan只开放到11月25日,而正式版API已经上线。 不妨用云端把打算本地跑的活儿提前跑通——文档问答、代码Agent、RAG工作流,顺手把提示词和评测集整理成可复用的脚本。工具链也能提前热身,QwenCode 1.0已经开源,把Qoder沉淀的Agent Harness能力一并放了进来。 等小尺寸权重开源那天,别人在同时调模型和业务,你只需要换一个模型地址。知乎知乎
回头看这份清单,能提前做的准备其实都不依赖那份还没公布的时间表:看清官方口径、选好待适配的框架、算实显存账、用云端把场景验证完。Qwen4中小尺寸模型的开源是“陆续”放出的过程,盯住官方渠道的信号,就能让每一分提前投入都落在确定性上。