什么值得买App下载 App ›
连续签到专享现金活动

混元一边做大模型一边推小模型,开发者该怎么选?

腾讯混元这个11月的节奏,正对应着「一边做大模型、一边推小模型」。旗舰Hy4的官方模型卡口径是语言主干总参数770B、每token文本激活49B、上下文长度1,048,576个token。11月20日,Hy4权重正式开源,可在GitHub、Hugging Face、ModelScope和GitCode社区下载部署。轻量线Hy4 flash发布仅两天就跟着开源了权重,官方口径是总参数224B、其中64B为Engram查表模块、每token激活12B,支持多模态和1M上下文。11月21日凌晨的Reddit AMA上,网友追问会不会有跑文档解析、分类的更轻型号,团队的回答是:Hy小模型已经在路线图上。所以对「开发者该怎么选」,答案其实已经摊开:按任务选,不按大小选——复杂多步、长周期Agent走Hy4;高频批量、日常办公走Hy4 flash;比flash更小的规格只存在于路线图里,现在还没有。知乎微博微博知乎

两条线到底差在哪

分工在官方口径里很直白:Hy4是旗舰,适合长程软件工程这类需要多步推理、反复调用工具的复杂任务,flash则。知乎

混元一边做大模型一边推小模型,开发者该怎么选?

flash的便宜也不只是少算参数:团队介绍,他们把Hy4蒸馏成成本效率更高的flash,再用强化学习把推理链压短。AMA里被问到后训练最难改善的行为,团队只回了一个词——过度思考,旗舰偏长的推理链正是账单大头,flash等于替用户把这一步省在了交付之前。知乎

价格是最直接的分界线:API定价每百万token输入0.5元、输出2元,命中缓存只要0.02元。知乎知乎

换成任务口径,量级同样清楚:官方WorkIndex按典型办公任务测算,flash的平均单任务成本约为旗舰Hy4的1/20。自媒体K姐研究社跑同一组办公任务的估算结果是Hy4约为flash的13.5倍。比例随任务浮动,但两种口径都在同一量级——引用时别把它们混成一句话。知乎知乎

混元一边做大模型一边推小模型,开发者该怎么选?

能不能跑起来,先看手里有什么硬件

开源权重不等于个人跑得动旗舰:官方README里vLLM和SGLang的部署示例跑的是FP8版、8张卡张量并行。据部署它的开发者估算,FP8光权重就七百多GB,单张80G显存的卡塞不下;自部署Hy4是正经的机房投入,想「拿到自己手里」之前先数数卡。知乎

flash则是另一档现实:有开发者在AMA报出96GB显存加128GB系统内存的配置,团队确认能跑,Engram查表模块也可以放内存,即主要权重和注意力计算留在GPU、部分专家层可以卸载到系统内存。知乎

工具链上,与vLLM、SGLang等推理社区的合作也在推进,llama.cpp适配正在做、预计近期会在社区放出。量化还有一个现成的坑:有用户测到本地NVFP4在托管版全对的任务上出现约8%的错误,团队建议对准确率敏感的场景改用GPTQ量化的NVFP4版本,与BF16差距更小。知乎

混元一边做大模型一边推小模型,开发者该怎么选?

开源,不等于可以随便对外卖API

先纠正一个流传口径:当天已有转述报道把协议写成Apache 2.0,与官方原文不符——官方LICENSE文件标题是Tencent Hy License 1.0,派生自Apache 2.0但写明「不是 Apache License, Version 2.0」。知乎

真正影响商业动作的是第10.2条:经营MaaS、让第三方远程调用模型推理或微调的,在任意连续12个月全球总收入超过5000万美元、或承载模型的产品月活跃用户超过1亿时,必须先取得腾讯书面许可。翻译成人话:小团队把模型能力装进自家具体功能、不开放通用模型访问,碰不到这条线;纯内部使用也不受限;把模型包成API对外转售又跨过门槛的,得先拿书面授权。知乎知乎

怎么选,以及先别选什么

把任务、成本、硬件和许可叠起来,选择其实很具体:

  • 写代码、跑复杂Agent、需要私有化底座:选Hy4,硬件不够就走托管API。轻量线的编程场景还没被证明——OpenRouter编程类目按7天用量排,第一仍是DeepSeek V4.1 Flash。知乎

  • 批量处理、日常办公、高频调用:选flash,但热度要分开看:日榜第一掺着首发促销和免费额度,30天累计口径上DeepSeek仍在200T量级、flash才1.9T。

  • 等更小更省的:面向24GB显存的模型,团队确认「有,未来会发布」。更轻的Flash-Lite也只是「敬请期待」,两者都还没上线,现在能拿到的「小」只有flash一档。知乎

  • 等旗舰线收敛:不会,团队明确计划训练更大规模的模型。「做大」和「做小」是同时推进的两条线,不存在谁给谁让路。

最后是一个现在就能做的动作:WorkBuddy里Hy4 flash限时免费到11月30日。与其对照参数表纠结,不如把手头真实的表格、纪要或代码丢进去跑一遍——1/20的差距能不能换来你接受的质量,只有你自己的任务知道答案。知乎

评论

评论区空态插画

当前文章无评论,是时候发表评论了