你睡觉的时候,本地大模型圈子正在集体熬夜。
11月21日凌晨,腾讯混元团队在Reddit的r/LocalLLaMA板块开了一场AMA,首席AI科学家姚顺雨也出现在评论区。而就在前一天,7700亿参数的Hy4旗舰权重刚刚全量开源。这场深夜对话讲的,恰好是所有人最关心的问题:我们普通人,到底什么时候跑得动这套东西?36氪小红书知乎

24GB显卡,第一次被官方点名
答案比想象中直接。被问到小模型什么时候来,混元团队一条条给了确认:面向24GB显存设备的模型会做,能在64GB—128GB内存上跑的Q4量化开放权重也是肯定回答。Hy4-mini已经列入开发路线图,主打技术的Flash-Lite也在路上。36氪小红书
翻译成购买建议:如果你原本打算为了本地跑Hy4,直接升级48GB的专业卡或者攒一台大塔机箱——可以再等等。单张24GB消费级显卡(4090这一档),马上就要成为官方明确支持的部署档位。

顺手说轻量的:官方数据显示,Hy4flash在自建评测WorkIndex里的单任务成本只有Hy4的1/20,在85名内部用户、259项任务的盲测里约为0.26元。官方还确认,Hy4flash可以直接在Mac M5 Max和128GB内存的Spark设备上跑起来。这是官方自报数据,但量级足够说明问题。36氪
“再强也开源吗?”“目前,是的”
社区最怕的是Meta式反转剧:强到一定程度就把门关了。混元团队的原话是:就目前而言,是的,我们会继续保持开源。折腾圈流行的EXL3量化格式暂时没有官方计划,但逻辑很简单——权重已经公开,“社区版本很快就会陆续推出”。36氪
还有个罕见的名场面:被要求给DeepSeek、智谱、月之暗面、阿里排个前三名,团队直接回了一句:“我才不上这个当呢,大家都很优秀”。36氪

榜单的话,别全信
最近第三方评测机构ArtificialAnalysis被质疑偏向美国闭源模型,部分中国模型评分波动明显。混元团队的回应值得划线:单一网站并不能真正决定一款模型在现实世界的采用情况。他们的参考坐标是内部基准、公开评测、第三方评测和真实用户反馈的组合,同一场AMA里还专门强调了"不针对基准测试刷分"。36氪
这条对普通用户的意义是:下次看到"某模型吊打某模型"的标题,先想想它是不是只有一张榜单在说话。
顺便记住几个彩蛋
下一代Hy会大幅扩大参数规模,继续押注大规模强化学习。被问芯片受限、算力不够怎么办,官方口径是"尽可能充分利用现有资源追赶前沿"。36氪
Hy4被主动移除了漏洞利用等进攻性训练数据:找漏洞的能力强、攻击能力弱,官方解释叫"负责任的开源"。
被问Hy4离AGI还有多远,团队成员给了个个人判断:“大约是2.5级”(按Google DeepMind的能力分级体系)。

一句话总结:腾讯这次把两头都摊牌了——旗舰更大,端侧更小。想认真玩本地大模型的,官方给的时间表其实已经很清楚:接下来几波小模型发布,才是真正适合动手的窗口。至于搭建本地Agent环境这件事,团队自己的建议是:“现在就开始”。36氪
当前文章无评论,是时候发表评论了