什么值得买App下载 App ›
连续签到专享现金活动

混元下一代模型大幅扩容,普通用户能等到哪些体验提升?

北京时间11月21日凌晨,腾讯首席AI科学家、混元大模型负责人姚顺雨与混元团队研究员出现在Reddit的r/LocalLLaMA社区,做了一场约两小时的AMA(Ask Me Anything,公开问答),收到三百多条留言,这也是混元团队首次在开发者社区公开答问。问答里,团队明确会继续相信Scaling Law,下一代Hy模型的规模会进一步大幅扩大,同时表示Hy4仍有很大提升空间。钛媒体腾讯科技

停在700B,是取舍不是掉队

AMA上有开发者直接发问:字节跳动、Kimi等似乎都在把参数量推向3万亿甚至5万亿,混元为什么还停在700B?团队的答案很直白:Hy3和Hy4已经证明,做得扎实的较小模型可以胜过更大的模型,而且更便宜。新浪科技每日经济新闻

这一代旗舰Hy4发布于11月4日,能理解文本、图像和视频,适合长程软件工程这类需要多步推理、反复调用工具的复杂任务;在第三方评测机构Artificial Analysis的智能指数上,它位列中国模型第二,并在Agent Arena榜单上居开源模型首位。下一代扩容的着力点也已给出:团队称正投入大量精力做大规模强化学习,尤其针对复杂任务的准确性和可靠性。对应到用户身上,是写长代码、做报表、跑多步任务这类活会更稳。量子位腾讯科技

混元下一代模型大幅扩容,普通用户能等到哪些体验提升?

比旗舰更近的三个变化

一是变小。团队确认,Hy4-mini、Flash-Lite以及能在24GB显存设备上运行的模型都在计划之中。24GB显存正是主流游戏电脑的入门配置,若如期落地,普通用户就有机会在自家电脑上本地跑起可用的混元模型,数据不出设备——AMA里已有开发者报出96GB显存加128GB内存跑起Flash的配置,团队也在推进llama.cpp、vLLM等社区适配,第三方应用接入的门槛会随之降低。腾讯科技

二是变便宜。一周多之后发布的Hy4 flash定位为“日常工作的极致性价比模型”,单任务成本仅为Hy4的二十分之一;按腾讯内部评测口径,它的平均单任务成本约为旗舰的1/20。模型便宜一分,接入混元的产品就少一分推理成本,免费额度和高频功能的余地就大一分。钛媒体量子位

两款模型的权重现已公开,团队也承诺即便未来做出更强的AI,会继续坚持开源路线。量子位腾讯科技

三是更像人。被问“后训练里最难改的行为是什么”,团队只回了四个字:过度思考——旗舰模型的推理链有时偏长、爱绕。对AI写作越来越像套话的质疑,团队承认这与训练目标有关,正努力让模型“写得更像人,少一点套话”。这些修复不用等下一代,现在就在发生。每日经济新闻腾讯科技

最不确定的是什么时候

扩容话说出来了,用户却可能还要等。11月18日的Q3财报电话会上,腾讯高管承认最新的限制收紧让实际可用算力减少,租赁、自建算力均受影响,AI训练也受到波及,混元下一代版本的推出可能需要更长时间。下一代模型的上线时间和具体参数规模,目前官方均未披露,“路线图”不等于“时间表”。金融界

混元下一代模型大幅扩容,普通用户能等到哪些体验提升?

已有红利已经摸得到

更现实的观察锚点是腾讯自己的产品线。Hy4和Hy4 flash都已接入腾讯WorkBuddy,据腾讯公关总监张军披露,WorkBuddy日活超过1000万,小微的灰测范围还在不断扩大。下一代扩容最终能否兑现成体验,一要看算力,二要看这些产品把参数换成了多少快、多少省、多少像人。量子位腾讯张军

混元下一代模型大幅扩容,普通用户能等到哪些体验提升?

评论

评论区空态插画

当前文章无评论,是时候发表评论了