什么值得买App下载 App ›
连续签到专享现金活动

国产AI炸场!美团开源1.6万亿参数大模型,万卡集群零故障训练

6月30日,美团正式发布并开源LongCat-2.0(龙猫2.0)。该模型总参数规模1.6万亿,采用MoE混合专家架构,平均每个Token激活约48B参数,原生支持100万Token超长上下文。

LongCat-2.0的核心突破在于全程在5万张国产AI ASIC上完成预训练,消耗超过35万亿tokens,训练过程零回滚、无不可恢复loss尖刺。这是业界首个在国产算力集群上跑通训练+推理全链路的万亿参数大模型。

对于开发者而言,模型权重已上传GitHub(HuggingFace同步),采用MIT协议开源,支持免费商用。
123
  • 参数规模:总参数1.6T,MoE架构,Token激活约48B(动态范围33B~56B)
  • 上下文窗口:原生支持1M(100万Token),最大输出128K tokens
  • 开源协议:MIT协议,支持免费商用
  • 预训练数据:35T tokens,覆盖中英、多语言及代码数据
  • 支持硬件:国产AI ASIC(5万卡集群),推理优化代码已开源
  • 核心评测:SWE-bench Pro 59.5(超越GPT-5.5)、Terminal-Bench 70.8、SWE-bench Multilingual 77.3
小团队能否本地部署,需要先看硬件门槛。

LongCat-2.0官方提供的推理优化代码针对国产ASIC做了适配,但单卡显存需求仍是主要限制因素。1.6T总参数的模型若以FP16加载,需要约3.2TB显存,远超单卡上限。团队采用INT8量化方案后,显存需求降至约800GB,配合6D并行策略可分散到多卡运行。

对于拥有数张国产算力卡的初创团队,官方建议先通过云端API(longcat.chat)验证模型能力,确认业务场景匹配后再评估本地部署成本。GitHub仓库已放出推理引擎和基础示例代码,显存低于512GB的硬件暂不具备完整运行条件。
145
国产算力跑通万亿模型,意味着什么。

过去,训练千亿以上参数模型必须依赖英伟达H系列GPU,国产芯片多用于推理或小规模训练场景。LongCat-2.0验证了国产ASIC在万卡级集群上的工程可行性:月均日故障率降低70%以上,MFU(模型浮点运算利用率)提升1.5倍,稳态日吞吐超过1T tokens。

这套能力依赖几个关键工程突破:自研确定性算子保障计算结果一致、弹性扩缩容机制实现故障自动恢复、6D并行策略针对国产卡显存规格重新设计。模型还集成了N-gram Embedding(135B参数),将嵌入空间扩展约100倍,推理时这部分不走专家调度通信路径,批量解码速度反而提升。
146
当前可获取的资源如下:

代码仓库:GitHub搜索"meituan-longcat/LongCat-2.0",包含推理引擎和适配国产卡的优化代码;权重文件标注"即将发布",具体日期尚未公布。

API渠道:longcat.chat已上线,MIT协议下无需申请即可调用,新用户赠送1000万token额度,支持OpenAI兼容格式接入Claude Code、OpenClaw、Hermes等主流Agent框架。

官方透露,后续将分阶段开源Infra框架、模型参数及后训练方案,尚未给出明确时间表。开发者若需本地验证,建议优先通过API测试具体业务场景的匹配度。
237

评论

评论区空态插画

当前文章无评论,是时候发表评论了