小米推 MiMo-V2-Flash开源混合专家模型,效能媲美 DeepSeek V3.2

2025-12-18 16:27:54 0点赞 0收藏 3评论

小米昨日推出了自己最新版的混合专家(MoE)开源模型 MiMo-V2-Flash,主打效率设计和极致性价比。它拥有 3090 亿总参数和 150 亿活跃参数,效能比肩 DeepSeek V3.2、Kimi-K2 等开源领先产品。其推理速度达到每秒 150 tokens,能实现毫秒级响应延迟。

小米推 MiMo-V2-Flash开源混合专家模型,效能媲美 DeepSeek V3.2

MiMo-V2-Flash

MiMo-V2-Flash 是小米公司于 2025 年 12 月 17 日正式发布并开源的混合专家架构(MoE)大语言模型,专为高效推理、编程和智能体(Agent)任务设计。其核心特点是在性能、成本与速度之间实现了革命性平衡,被视为小米在 AI 赛道上的重要突破。

小米推 MiMo-V2-Flash开源混合专家模型,效能媲美 DeepSeek V3.2

核心技术架构与创新

  1. 混合滑动窗口注意力机制

    采用 5 层滑动窗口注意力 + 1 层全局注意力的交替架构,窗口大小严格控制在 128 个 token。这种设计将传统全局注意力的二次计算复杂度降为线性,使 KV 缓存存储量减少近 6 倍,同时支持256k 超长上下文窗口,实测长文本处理能力超越同类模型。为避免局部窗口导致的语义断层,模型引入 “可学习的注意力汇入偏置”,通过虚拟锚点维持长程语义连贯性。

  2. 轻量级多 Token 预测(MTP)

    原生集成 MTP 模块,可并行预测后续 2.8-3.6 个 token,推理速度直接提升 2-2.6 倍。该技术不仅加速推理,还优化了训练阶段的采样效率,减少 GPU 空转时间,尤其解决了小批量强化学习中的 “长尾样本” 问题。

  3. 多教师在线策略蒸馏(MOPD)

    后训练阶段采用 MOPD 技术,通过多专家教师网络提供密集奖励信号,使模型仅需传统方法 1/50 的算力即可达到教师性能峰值。该方法支持动态扩展教师模型,并形成 “教与学” 闭环自我进化机制。

性能表现与应用场景

  1. 标杆级任务能力

    • 代码能力:在 SWE-bench Verified 测试中解决率达73.4%,超越所有开源模型,接近 GPT-5-High 水平;多语言编程基准 SWE-Bench Multilingual 解决率71.7%,支持跨语言代码生成与调试。

    • 数学与科学推理:在 AIME 2025 数学竞赛和 GPQA-Diamond 科学知识测试中位列开源模型前两名,展现出复杂逻辑解析能力。

    • 智能体交互:τ²-Bench 分类得分中,通信类 95.3 分、零售类 79.5 分;BrowseComp 搜索代理得分 45.4,启用上下文管理后提升至 58.3,支持数百轮工具调用与多模态验证(如视频录制验证网页开发结果)。

  2. 极致性价比

    推理速度达150 tokens / 秒,API 调用成本仅为每百万输入 token 0.1 美元、输出 token 0.3 美元,仅为闭源模型 Claude 4.5 Sonnet 的2.5%。这种低成本优势使其在实时交互、高频工具调用等场景具备显著商业化潜力。

  3. 多场景适用性

    • 开发者工具:可与 Claude Code、Cursor 等主流开发环境无缝集成,支持直接生成功能齐全的 HTML 网页(如电商页面、迷宫游戏、3D 圣诞树装饰),甚至包含摄像头手势控制等复杂交互逻辑。

    • 日常助手:写作质量接近顶级闭源模型,支持深度思考与联网搜索,可完成科幻剧本创作、情感咨询等多类型任务。

      • 端云协同:与小米端侧模型(如 MiMo-7B)和多模态模型(如 MiMo-VL-7B)形成互补,构建 “端 - 云 - 多模态” AI 生态。

开源与生态布局

小米以MIT 协议全面开源 MiMo-V2-Flash,模型权重与推理代码已在 Hugging Face 发布,并向开发者社区 SGLang 贡献全部推理优化经验。同时,API 平台提供限时免费服务,开发者可直接接入体验。此举旨在通过开源吸引合作伙伴,构建围绕 MiMo 的技术生态,类比 Android 在移动操作系统领域的策略。

小米推 MiMo-V2-Flash开源混合专家模型,效能媲美 DeepSeek V3.2

行业意义与未来方向

MiMo-V2-Flash 的发布标志着小米从硬件厂商向 AI 技术引领者的转型加速。其 “工程效率优先” 的技术路线(如 FP8 混合精度训练、MoE 稀疏激活)为行业提供了替代 “暴力堆参数量” 的新思路。未来,小米计划通过扩大模型规模、深化智能体架构优化,进一步缩小与顶级闭源模型的差距,并探索其在自动驾驶、智能家居等场景的落地。

与此同时,该模型还原生支持 32k tokens 上下文,可扩充至 256k,采用滑动注意力与全域注意力混合架构,能兼顾效率与部署兼容性。另外它也具备深度思考和联网搜索功能,整体定位非单纯聊天工具,未来将整合小爱同学、小米智能家居与小米汽车座舱,服务于整个 “人车家” 生态。

MiMo-V2-Flash 在各项基准测试中也都有不俗表现,它的 AIME 2025 数学竞赛和 GPQA-Diamond 科学知识得分都排在开源模型的前二。SWE-bench Verified 修复代码成功率 73.4%,领跑所有开源模型,成绩逼近 GPT-5(High)。而这样的表现,仅需要极低的成本便可实现。MiMo-V2-Flash 每百万 token 输入和输出的价格仅为 0.1 和 0.3 美元,性价比真的是刻入小米 DNA 的东西。

「MiMo-V2-Flash 已经正式上线,但这只是我们 AGI 路线图上的第二步。」一个月前刚刚加盟小米领导 MiMo 团队的 DeepSeek「AI 天才少女」罗福莉在 X 上这么写道。如果一切顺利的话,小米在 2026 年可能还会加推 700 亿参数的 Pro 版本。这家每进入一个行业都会掀起巨变的公司接下来会如何影响 AI 的发展,各位不妨拭目以待。

小米推 MiMo-V2-Flash开源混合专家模型,效能媲美 DeepSeek V3.2
展开 收起
3评论

  • 精彩
  • 最新
  • 试试看

    校验提示文案

    提交
    [邪恶] [邪恶]

    校验提示文案

    提交
    收起所有回复
  • 性价比高

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
目录
0
扫一下,分享更方便,购买更轻松