其他智能设备
其他智能设备
其他智能设备
其他智能设备
  • zaozuo
  • zaozuo
  • zaozuo
  • zaozuo

小米MiMo大模型:轻量化与高效推理

2025-12-21 12:35:45

#小米发布最新MiMo大模型

小米MiMo大模型的研发历程以“轻量化、高效推理、软硬融合”为核心主线,按关键节点可分为战略启动、团队组建、首代发布、多模态拓展与架构升级五个阶段,以下为时间线与关键进展 :

一、战略启动期(2023年)

- 2023年:小米将AI纳入核心战略,确立“轻量化、本地部署”为大模型技术方向;8月雷军宣布科技战略升级,五年投入1000亿研发,AI为核心之一。

- 2023年底:组建大模型Core团队(LLM‑Core),聚焦推理能力与端侧适配,启动MiMo系列研发。

二、技术攻坚与首代发布(2024年底‑2025年4月)

- 2024年底‑2025年4月:预训练采用三阶段混合策略,在25T tokens上训练,合成200B tokens推理数据;后训练创新强化学习算法,缓解奖励稀疏问题。

- 2025年4月30日:开源首个推理大模型MiMo‑7B系列(Base/SFT/RL/RL‑Zero 4款),上线Hugging Face,披露26页技术报告,主打“为Reasoning而生” 。

三、多模态拓展(2025年5月)

- 2025年5月:推出MiMo‑VL‑7B多模态模型,支持图像理解与交互,性能比肩同类标杆,强化端云结合能力。

四、核心团队升级(2025年11月)

- 2025年11月12日:前DeepSeek研究员罗福莉加入小米,担任MiMo大模型负责人,加速模型架构创新与AGI探索。

五、架构跃迁与生态深化(2025年12月)

- 2025年12月16日:开源MoE架构MiMo‑V2‑Flash,总参数3090亿、活跃参数150亿,推理速度提升2.0‑2.6倍,SWE‑Bench Verified得分73.4%。

- 2025年12月17日:罗福莉在全生态大会发布该模型,Hybrid SWA混合注意力+3层MTP加速,适配“人车家”生态,推理速度150 tokens/秒,API定价行业最低。

研发核心逻辑

- 坚持“效率优先”:拒绝参数堆砌,以算法优化(如MTP、Hybrid SWA)与端侧部署为壁垒,兼顾速度、成本与隐私。

- 软硬协同:深度绑定小米生态,实现“技术‑场景‑数据”正向循环,推动AI从语言模拟器走向物理世界交互者。

展开 收起

本文作者

0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关笔记推荐

京东京享红包
距结束::
领京东现金红包 天天领3次 最高26888元
红包按钮
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松

已收藏