什么值得买App下载 App ›
连续签到专享现金活动

小米MiMo-V2.5 API降价99%,Token用量提升8倍

事件速览
  1. 核心事件:小米于6月9日正式上线MiMo-V2.5-Pro-UltraSpeed极速模式,在通用GPU上实现万亿参数模型1000+ tokens/s推理速度
  2. 定价策略:官方采用“3倍价格,10倍速度”定价逻辑,标准版3倍费用换取近10倍输出效率,单位时间成本反降
  3. 技术突破:核心采用FP4专家层量化、DFlash块级并行预测及TileRT常驻内核,无需专用芯片即可实现1200 tokens/s峰值速度
  4. 试用规则:目前开放限时申请制(至6月23日),仅支持API调用,单日限排10次,会话最长30分钟
展开说说
通用硬件的极致突围
此次小米MiMo UltraSpeed模式的最大看点,在于打破了高性能推理必须依赖Cerebras或Groq等专用芯片的行业定论。通过FP4选择性量化(仅针对MoE专家层)和TileRT定制编译引擎,小米成功将万亿参数模型的内存占用降低了75%,KV Cache压缩至原来的七分之一。这种软硬件深度协同的架构,让标准8卡NVIDIA B200节点跑出了超越专用硬件的速度,不仅大幅降低了硬件门槛,更将推理成本压至主流竞品的1%以下,为通用GPU在大模型推理领域的“逆袭”提供了关键样本。
速度即智能的新范式
1000 tokens/s的生成速度不仅仅是体验提升,更被雷军定义为“速度即智能”的新范式。这种极速推理为Coding Agent、高频交易、实时决策闭环等对延迟极度敏感的场景扫清了障碍。官方Demo显示,生成一个贪吃蛇游戏仅需10秒,生成macOS界面仅需1分钟,复杂可视化任务提速达28倍。这标志着大模型应用正从“单次问答”向“实时闭环”演进,原始速度的量变正在引发思维深度与交互模式的质变。
商业逻辑与普惠门槛
虽然定价为标准版的3倍,但输出速度提升近10倍,这意味着单位有效算力的成本实际上大幅下降,HN社区测算显示其ROI极高。不过,小米目前采取了相对谨慎的运营策略:仅开放API调用,不支持Token Plan,且设置了严格的排队与释放机制(闲置5分钟释放)。这种“限时申请制”既是为了在初期保障高价值用户的体验,也暗示了在冷启动场景下,其成本与稳定性仍需在高负载实战中进一步验证。
历史事件回溯
当前事件
小米推UltraSpeed模式,3倍价10倍速
  • 核心技术:FP4量化+DFlash解码+TileRT编译内核
  • 性能表现:万亿参数模型输出速度达1000 tokens/s
  • 定价策略:API价格为标准版3倍,仅限API体验
2026年5月
GLM-5.1高速版API发布,创当时纪录
  • 核心技术:TileRT与智谱联合系统级优化
  • 性能表现:输出速度达400 tokens/s
2025年11月
Gemini Flash发布主打高速推理
  • 性能表现:输出速度约192 tokens/s
  • 定价策略:未公开详细定价,定位高性价比高速模型

评论

评论区空态插画

当前文章无评论,是时候发表评论了