美团LongCat全系开源:万卡集群训出万亿参数大模型,1.6万亿参数版本面世
01LongCat系列开源脉络与技术演进
2026年4月24日发布的LongCat-2.0-Preview将总参数规模提升至1.6万亿,激活参数约480亿,支持100万token超长上下文。该模型全程依托国产算力集群完成训练,动用5万至6万张国产加速卡,实现国产芯片上万亿级大模型训推闭环。LongCat团队还自主研发了LoZA稀疏注意力机制,将长文本处理能力从256K扩展至1M,128K上下文解码速度提升10倍。此外,LongCat-Video视频生成模型(136亿参数)与LongCat-Video-Avatar数字人模型(13.6B参数)先后开源,均采用MIT协议,涵盖文生视频、图生视频、视频续写及音频驱动数字人生成等能力。78910
02开源策略与开发者生态影响
当前文章无评论,是时候发表评论了