什么值得买App下载 App ›
连续签到专享现金活动

腾讯旗舰Hy4全量开源了:先别急着下载,量化完也要438GB

11月20日,腾讯把自家旗舰大模型混元Hy4的权重正式放了出来。三套一起给:指令版Hy4、量化版Hy4-FP8、底座版Hy4 Base,GitHub、HuggingFace、ModelScope、GitCode四个平台同步上线。至此混元LLM家族从Hy3到Hy4 flash全部开源,还允许商用。哔哩哔哩知乎

770B总参数、1M上下文、能看图看视频、还能直接操作电脑,该有的热词一个不少。评论区当场沸腾,"本地党"成了最高频的词。知乎

且慢,伸手下载之前,先算清三笔账。

第一笔账:"激活只有49B"是外行陷阱

Hy4是MoE架构,每个token只激活约49B参数。但听清楚:每次计算用到的少,不代表装进显存的少——770B的权重得整套驻留。小红书

腾讯旗舰Hy4全量开源了:先别急着下载,量化完也要438GB

按社区核对官方仓库的实测口径:FP8版要全量跑起来,显存需求约944GB,相当于八卡服务器那档;最激进的IQ2量化压到310GB,Q4量化也有438GB。哔哩哔哩

这是服务器的活,不是你的游戏本和迷你主机的活。笔记本党可以先收一收下载工具了。

第二笔账:许可证不是Apache 2.0

好几篇快讯顺手写成"Apache 2.0",实际是腾讯自拟的Tencent Hy License v1.0。个人自用、科研、企业内部部署都随便用;但协议第10条挂着一条商用红线——对外开放通用模型服务(MaaS),且过去12个月全球营收超5000万美元或月活超1亿,得另行向腾讯申请书面授权。小红书哔哩哔哩

小团队想转手卖模型API的,先读这条再动手,别把"开源"读成"随便用"。

第三笔账:普通人的正确答案,可能根本不用下载

Hy4早在11月4日就发布并定了价:API输入6元/百万token、输出18元,缓存命中0.3元,腾讯云TokenHub五折窗口开到12月31日。不碰代码的用户更省事——Hy4已经接入元宝和ima,打开App就能用。知乎

腾讯旗舰Hy4全量开源了:先别急着下载,量化完也要438GB

能力上客观讲:代码编辑、电脑操作这类基准上它超过了DeepSeek-V4.1-Flash,579项真实金融任务专家盲测拿了开源模型第一。但官方自己承认和高难度数理上的顶尖闭源模型仍有明显差距。知乎哔哩哔哩

还有个热乎的实战反馈:有人用Agent任务跑一次Code Review,烧掉近160万token——便宜是真的便宜,不经用也是真的不经用。知乎

腾讯旗舰Hy4全量开源了:先别急着下载,量化完也要438GB

谁该去折腾?数据不能出公司的开发者、真需要私有化部署的团队,去研究FP8多卡方案。剩下的大多数,与其下个438GB的权重喂灰硬盘,不如趁五折窗口直接用现成的。

评论

评论区空态插画

当前文章无评论,是时候发表评论了