什么值得买App下载 App ›
连续签到专享现金活动

小米玄戒O100带宽超RTX 4090,原型机本地跑大模型每秒300词

在8月24日的小米玄戒芯片技术沟通会上,最吸睛的不是常规手机,而是一台连摄像头都没留下的“怪机”——玄戒O100原型机。这台设备采用了横向阔折叠设计,为了给AI大模型让路,直接砍掉了后置影像模组,主板全部重制,甚至塞进了一个10瓦的主动风冷散热风扇。在玄戒O3和O100双芯协同下,它能在本地以每秒近300 Tokens的速度跑MiMo端侧大模型,彻底把移动设备变成了一个不用联网也能秒出结果的AI计算终端。
带宽超RTX 4090,拆解O100的堆叠黑科技
这台原型机敢取消摄像头加风扇,底气全在玄戒O100这颗芯片上。它是小米首颗专为端侧大模型而生的高带宽AI加速芯片,用了6nm晶圆级垂直堆叠(Wafer on Wafer)工艺,把两层DRAM内存晶圆和一层NPU计算晶圆直接贴在一起。这种混合键合工艺把内存带宽干到了1.22TB/s,是现在旗舰手机的16倍,甚至超过了NVIDIA RTX 4090的1.01TB/s。带宽一破,端侧AI推理的“内存墙”就被推倒了,内置14核NPU让推理速度最高飙到330 Tokens/秒,现场演示大段外文翻译0.6秒就能出结果。
断网也能无限用,端侧AI到底图什么
参数拉满带来的直接好处就是:你可以完全脱离网络用AI。在这台原型机上,长文本翻译、条文解读、代码生成全在本地独立完成,不仅没有云端调用的次数限制,还从根源上保住了数据隐私。虽然这台原型机距离普通消费者还有距离,但小米官方透露,玄戒O100明年就会正式商用,落地家庭AI中枢、桌面主机甚至汽车座舱。至于首发玄戒O3的小米18 Fold阔折叠屏,则会在今年9月率先让大家体验到端侧AI算力提升的实际表现。
同台亮相的AI Cube:三芯合一的迷你主机
和原型机一起展出的还有Xiaomi AI Cube迷你主机,它的形态更激进。航空铝机身打了两万多个CNC镂空散热孔,压住150瓦的性能释放。机身内直接把玄戒O3、O100、D100三颗芯片塞在一起,配上80GB统一内存,能同时部署120B大参数模型和3B端侧模型。复杂编程、前端开发这种重活也能在本地搞定,它和原型机一起,构成了小米未来人车家生态的AI算力底座。
历史事件回溯
当前事件
小米玄戒O100原型机亮相
  • 芯片定位:旗舰级智能手机SoC芯片
  • 制程工艺:台积电4nm工艺
  • 研发进展:原型机跑分亮相,尚未量产商用
2021年3月
小米自研影像芯片澎湃C1发布
  • 芯片定位:专业影像处理ISP芯片
  • 研发进展:随MIX FOLD折叠屏手机量产商用
2017年2月
小米首款自研手机SoC澎湃S1发布
  • 芯片定位:中端智能手机SoC芯片
  • 制程工艺:采用28nm HPC制程工艺
  • 研发进展:随小米5C手机量产商用

评论

评论区空态插画

当前文章无评论,是时候发表评论了