小米MiMo-V2.5 API最高降99%,技术降本实现收支平衡
事件速览
- 核心突破:小米MiMo-V2.5-Pro-UltraSpeed模式在单台8卡通用GPU节点上实现推理速度突破1000 tokens/s,峰值达1200
- 技术降本:通过FP4专家层量化、DFlash块级投机解码、TileRT常驻内核三大技术,将推理成本压至主流竞品的1%以下
- 商业策略:UltraSpeed定价为标准版3倍但速度提升10倍,依托7.4亿月活设备网络提升缓存命中率,实现降价后收支平衡
- 生态开放:6月9日至23日开启限量试用,相关FP4与DFlash检查点已开源至Hugging Face
- 06月09日
- 06月01日
- 05月30日
- 查看全部进展
事件追踪
展开说说
通用GPU的极限释放
此次技术突破的核心在于证明了通用硬件的潜力。MiMo-V2.5-Pro-UltraSpeed仅使用标准8卡NVIDIA B200服务器,未依赖Cerebras或Groq等专用晶圆级芯片,便实现了1000 tokens/s的行业顶级推理速度。这得益于全栈自研的“三板斧”:仅对Experts层进行FP4量化以保留主干精度,DFlash块级投机解码在Coding场景平均每轮接受6.3个token,以及TileRT常驻内核引擎消除了算子间的执行间隙。这种“软硬协同”的路径不仅大幅降低了硬件门槛,更通过工程优化将成本结构彻底重构,使得单位推理成本断崖式下降,无需烧钱补贴即可维持商业可持续性。
此次技术突破的核心在于证明了通用硬件的潜力。MiMo-V2.5-Pro-UltraSpeed仅使用标准8卡NVIDIA B200服务器,未依赖Cerebras或Groq等专用晶圆级芯片,便实现了1000 tokens/s的行业顶级推理速度。这得益于全栈自研的“三板斧”:仅对Experts层进行FP4量化以保留主干精度,DFlash块级投机解码在Coding场景平均每轮接受6.3个token,以及TileRT常驻内核引擎消除了算子间的执行间隙。这种“软硬协同”的路径不仅大幅降低了硬件门槛,更通过工程优化将成本结构彻底重构,使得单位推理成本断崖式下降,无需烧钱补贴即可维持商业可持续性。
分层定价的商业算盘
小米的策略呈现出清晰的“双线并行”特征。标准版(Flash)主打极致价格战,通过缓存命中0.025元/百万token的低价抢占市场份额;而新推出的UltraSpeed模式则主打速度战,定价虽为标准版3倍,但输出速度快10倍,单位时间成本实际反而降低。这种分层策略覆盖了从低成本调用到毫秒级实时响应的多元化场景。依托小米庞大的“人车家”生态,7.4亿月活设备组成了巨大的缓存网络,随着调用量上升带动缓存命中率提升,进一步摊薄成本,形成“调用量↑→缓存↑→成本↓→定价↓→用户↑”的正向循环,支撑其降价后仍能收支平衡的商业逻辑。
小米的策略呈现出清晰的“双线并行”特征。标准版(Flash)主打极致价格战,通过缓存命中0.025元/百万token的低价抢占市场份额;而新推出的UltraSpeed模式则主打速度战,定价虽为标准版3倍,但输出速度快10倍,单位时间成本实际反而降低。这种分层策略覆盖了从低成本调用到毫秒级实时响应的多元化场景。依托小米庞大的“人车家”生态,7.4亿月活设备组成了巨大的缓存网络,随着调用量上升带动缓存命中率提升,进一步摊薄成本,形成“调用量↑→缓存↑→成本↓→定价↓→用户↑”的正向循环,支撑其降价后仍能收支平衡的商业逻辑。
从参数比拼到落地竞速
这一技术进展正在重塑大模型的竞争维度。万亿参数模型此前往往受限于推理延迟,难以落地高频交易、反欺诈、手术辅助等对实时性要求极高的“生死攸关”场景。MiMo-V2.5突破千tokens/s的门槛,意味着大模型从“思考”工具进化为“实时决策”助手成为可能。行业竞争焦点正从单纯的参数规模比拼,转向如何在通用硬件上通过极致工程优化实现高性能与低成本的统一。随着限时试用申请的开启和关键技术的开源,小米正试图通过技术普惠性建立新的行业壁垒,推动国产大模型进入“极速推理”的落地新阶段。
这一技术进展正在重塑大模型的竞争维度。万亿参数模型此前往往受限于推理延迟,难以落地高频交易、反欺诈、手术辅助等对实时性要求极高的“生死攸关”场景。MiMo-V2.5突破千tokens/s的门槛,意味着大模型从“思考”工具进化为“实时决策”助手成为可能。行业竞争焦点正从单纯的参数规模比拼,转向如何在通用硬件上通过极致工程优化实现高性能与低成本的统一。随着限时试用申请的开启和关键技术的开源,小米正试图通过技术普惠性建立新的行业壁垒,推动国产大模型进入“极速推理”的落地新阶段。
历史事件回溯
当前事件
小米MiMo-V2.5降价99%仍盈利
- 核心技术:KVCache双池、SWA-aware前缀树等五大突破
- 降价幅度:API永久降价最高达99%
- 成本控制:KVCache存储压缩至同级方案约1/7
2025年11月
阿里通义千问Qwen-Max大幅调价
- 核心技术:基于混合专家MoE架构优化推理效率
- 降价幅度:输入价格下调80%,输出下调70%
- 成本控制:通过稀疏激活降低GPU资源消耗
2024年6月
百度文心一言4.5开放并降价
- 核心技术:采用ERNIE 4.5 Turbo推理加速框架
- 降价幅度:API调用费用整体下降75%
- 成本控制:自研昆仑芯AI芯片支撑低成本部署


当前文章无评论,是时候发表评论了