Qwen3.8-27B今晚正式开源,“一张4090就能跑”是真的,但装之前先对着这份显卡档位表

源自7位全网作者

04:26

今晚(8月14日)的软件圈属于千问。B站一条《一张4090就能跑》的装机教程视频一夜播放破万,评论区最高赞只有一句话:“这跑分看得震惊瘫坐”。但你要是正纠结“装不装”,建议先看完下面三笔账和两个坑,再按下下载键。哔哩哔哩

今晚发生了什么,一段话讲完

Qwen3.8-27B是一个270亿参数的原生多模态稠密模型,262K原生上下文可外推到1M,权重按Apache 2.0协议开放,免费下载、部署、商用。知乎这次开源算是“如期兑现”:8月3日Qwen3.8-Max发布时就官宣了首次开源Max级权重、27B也将开源;8月12日2.4T参数的旗舰先上架;中间还有一段小插曲——倒计时页面一度404,Hacker News上有人质疑“是不是食言”,结果只是发布前的例行操作,8月14日模型页如期上线。知乎

有多强?先把官方跑分表读对

官方模型卡上,agentic编码项确实猛:SWE-bench Pro 61.7,比同栏闭源旗舰Opus4.6 Max的53.4还高;QwenSWEBench 79.0对63.8;DeepSWE 1.1 42.2,是前代13.3的约三倍,agentic编码相对前代大幅提升。知乎编程和办公场景,官方口径是“表现甚至超越了Qwen3.7-Plus”。知乎但通用推理的差距同样明摆着:GPQA Diamond 89.2对91.3,HLE 30.8对40.0,仍打不过闭源旗舰。B站评论区最高赞的冷静声音说得准:“应该是某些特殊领域,综合肯定比不了大模型”。哔哩哔哩一句话:把它当本地编程/办公自动化引擎,是超配;指望它全面替代闭源旗舰,是想多了。

Qwen3.8-27B今晚正式开源,“一张4090就能跑”是真的,但装之前先对着这份显卡档位表

第一笔账:你的显卡能不能跑?对着表看

社区已经把账算明白了:Q4_K_M量化版18GB左右,加上运行时上下文开销,24GB显存是入场线,主流选择就是3090、4090、5090D V2这几张24G卡。知乎16G卡不是不行,但只能降到Q3级量化,评论区实测反馈“16g显存实在是龟速”;Mac统一内存能装下,但内存带宽是硬约束,M4 Pro只有273GB/s,5090是1800GB/s,稠密模型输出速度肉眼可见地慢,适合安静省电党,不适合速度党。哔哩哔哩没有独显就别硬上了,官方线上通道7月底就已经免绑卡免费开放体验,没必要本地硬跑。微博

Qwen3.8-27B今晚正式开源,“一张4090就能跑”是真的,但装之前先对着这份显卡档位表

第二笔账:值不值得花钱跑?

连写安装教程的作者自己都在泼冷水:“现在电脑硬件价格太高了,非不要,强烈建议不要买,还不如用云端API划算”。知乎两类人值得:手里已经有24GB卡的,迁移成本为零,边际成本只有电费;有数据隐私、离线硬需求的,社区里有证词说单卡自动化场景替代frontier API每月省约1000美元,但这是单一案例,别当普遍收益外推。知乎至于那台2.4T旗舰,凑热闹前看清楚:Unsloth用1-bit量化把它从4.9TB压到397GB,入门却要410GB以上的内存加显存,而且开源版看不了图、思考关不掉,是服务器玩家的局,与普通玩家无关。知乎

第三笔账和安装路径:真要装,今晚怎么装

路径极简:去lmstudio.ai下载安装LM Studio,Windows和Mac都有下载地址。知乎打开后搜Qwen3.8-27B,下Q4_K_M量化版(18.03GB),直接开聊;Unsloth的GGUF量化版当夜同步上架,从Q3到Q6档位齐全。这代还新增了reasoning_effort,能根据任务难度控制思考深度、更省资源——这正是下一个坑的解药。知乎

Qwen3.8-27B今晚正式开源,“一张4090就能跑”是真的,但装之前先对着这份显卡档位表

两个新坑,都是评论区今晚真人踩出来的。其一,思考等级别开太高:有用户一个问题思考五分钟卡死,上下文满了还在想,reasoning_effort设成medium就够用,评论区共识是“试下来medium就很好了”。哔哩哔哩其二,跑vLLM卡死的,基座跟3.6一样,设置限制思维链长度就能无缝迁移。

接下来盯三个信号

评论区刷屏追问的35B-A3B MoE版会不会出——那才是16G卡用户的真救星;大家担心的“硬件又要涨价”会不会兑现——想入24G卡的,这个月盯紧价格。这个月的模型圈也热闹得很:DeepSeek V4 Pro正式版刚深夜上线、Grok 4.6发布、OpenAI降价刚落地,API价格波动远没结束,不装本地也可能捡着便宜。知乎知乎

装不装,一句话:有24GB卡的今晚就装;16GB卡想清楚量化取舍;没卡的用云端,别制造需求。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章