11月18日(北京时间),腾讯混元开放了 Hy4 flash 权重,指令版、FP8 量化版和预训练基座 Base 三个版本同时上架,GitHub、Hugging Face、ModelScope 等平台均可下载。想把模型跑在本地,先记住两个结论:官方部署路线是 8 卡多卡服务器——按官方示例用 FP8 权重做 8 路张量并行才能开服,不是普通办公本一键能跑的模型;适合的场景按日常工作调校,深度搜索、文档处理、PPT 生成、简单前端展示和 computer use 用它正合适,长程软件工程这类复杂任务,连官方自己都不推荐。知乎小红书
先说硬件门槛:拿 220B 级权重估,别用「12B 激活」算显存
总参数两处官方口径不一。模型卡约 220B、每个 token 只激活约 12B。新闻稿则写作 224B、其中 64B 是 Engram 参数。两个数字都容易把显存估错:Engram 哈希表不参与矩阵乘,但官方现在的 vLLM / SGLang 方案仍是整模型上 8 卡。官方 README 的 vLLM 示例写明加载 FP8 权重、并行参数 –tensor-parallel-size 8。照 220B 参数量与 FP8 各 1 字节的量级折算,光权重就是两百多 GB——这是按参数规模的推算,不是实测数字——权重、KV cache 和运行时开销要一起塞进八张卡的总显存,而官方示例没有点名具体卡型,社区流传的显存、卡数经验目前都不能当成官方要求。小红书知乎知乎知乎
长上下文的压力比直觉小。官方称这套混合注意力把 KV cache 降到 Hy3 的 1/24、Hy4 的 1/6。有知乎作者按同一口径估算:上下文取满 1,048,576 token、KV 用 BF16 时,注意力所需历史 KV 张量约 13.5GiB,与官方 1/6、1/24 的说法接近。同样显存能撑更长、更多的会话,是这代架构在部署侧最实在的收益。知乎知乎
另外两个「官方数字」别原样搬到自己的机器上。150 tokens/s 的解码速度,是腾讯自家推理栈叠加 megakernel、4-bit 量化和内置 DFly2 草稿模型的自测结果。AngelSlim 提供的 GGUF 则写明只用于端到端测试,不是官方主推部署路径。知乎知乎
三个版本按用途下,别拿 Base 版当聊天模型
指令版用来对话和推理,FP8 是官方 vLLM、SGLang 生产示例加载的版本。知乎
Base 版是预训练底座,官方写明不是指令微调后的对话模型,不要拿它聊天或当办公 Agent,它是给想在自己的数据上继续训练的开发者准备的。对话部署从指令版或 FP8 里选,官方建议采样参数 temperature=0.9、top_p=1.0,思考开关通过 reasoning_effort 传 high 或 no_think。知乎

许可证也不能当宽松协议略过。权重基于腾讯自定义的 Hy License 发布。这份协议由 Apache 2.0 衍生但并非 Apache 协议,对大型 MaaS 业务另有附加商用条款,商用前先读 LICENSE 原文。哔哩哔哩
适合什么场景:快和省的那类,上限也写得明白
官方的分工是:深度搜索、文档处理、PPT 生成、简单前端展示、computer use 等大部分日常任务用 Hy4 flash,长程软件工程等复杂任务用智能上限更高的 Hy4。SGLang 的 Day0 支持公告里,给它的定位同样是低成本的日常 Agent 任务。知乎小红书
成本侧,官方称 WorkIndex 上它的单任务成本只有 Hy4 的 1/20、DeepSeek-V4.1-Flash-1017 忙时价的 1/8。知乎
85 位用户在 27 类共 259 个日常任务上的盲测里,它的满意度接近 Claude Haiku 5.5,单任务成本显著低于其余对比模型,任务时长最短。知乎
短板同样具体。官方自测分项里,PPT 协作还能保住 Hy4 的八成水平,到了 Terminal-Bench 4.0 只有 19.2 分,对 Hy4 的 44.4 分差距明显。公开 Agent 评测散点读数约 48 分,低于 DeepSeek-V4.1-Flash 的约 56 分,且是读图估算。第三方横评给出了同一个形状:科技媒体用办一场大会的真实任务连测四款模型,Hy4 flash 首轮整套交付最快,10 分 20 秒交齐全部文件,算上返工后模型成本 1.66 元也是四款最低。哔哩哔哩知乎知乎
但写方案这类开放性任务,它前后找策划专家聊了两次,token 用量反而是四款里最多的。社区里也不缺「又快又蠢」「顾此失彼」的差评声音。它适合的位置就是快和省,别按旗舰的价格预期它接长程工程。知乎知乎
本地部署划不划算:四个前提一个不占,先用 API
绕不开的一笔账:API 目录价每百万 token 输入 0.5 元、输出 2 元,命中缓存的输入只要 0.02 元。11 月 30 日前,腾讯云 TokenHub API 限时 5 折、WorkBuddy 内还可限时免费使用。知乎知乎

在这个价格背景下,本地部署说得通的前提基本只有四类:数据不能出内网、需要离线可用;想用 Base 版在自己的语料上微调;并发量大到 8 卡服务器和运维成本摊下来能赢过 API 账单;要把权重嵌进自有产品——那还得先核 Hy License 的商用条款。四条一条都不沾,现阶段直接用 API 更划算。
官方也已经预告,旗舰 Hy4 同样即将开源,本地部署的决策可以再等等,等下一批权重和社区适配落地后一并算账。知乎知乎
当前文章无评论,是时候发表评论了