当前位置:
AIGC文章详情

玄戒O100带宽1.22TB/s、16倍于旗舰手机,但评论区纠结的是"抢了韬定律首发":两条路线真不是一回事,明年量产前先弄清三点

源自130位全网作者

03:13

8月24日,小米一口气发了三颗芯片。流量都被玄戒O3的522万安兔兔跑分吸走了,但这两天真正让数码圈吵个不停的,反而是名气最小的那颗:玄戒O100。

官方口径把能给的词都给上了:这是小米首颗专为端侧大模型而生的高带宽AI加速芯片,用了行业首个6nm晶圆级垂直堆叠(Wafer on Wafer)先进封装,混合键合间距做到1.4微米。微博带宽1.22TB/s,约为现有旗舰手机的16倍,端侧推理峰值最高330 TPS,现场原型机实测跑小米的MiMo端侧模型,速度能到每秒295个Tokens。微博

玄戒O100带宽1.22TB/s、16倍于旗舰手机,但评论区纠结的是

但翻翻评论区,最高赞不是"遥遥领先",而是这么一句:这不就是华为5月份发布的韬定律吗,小米抢首发了?问的人非常多,也是这次误读最多的地方。先把这件事掰扯清楚。

一、O100和韬定律:都是"3D集成",但不是一条路

先说结论:玄戒O100和华为韬定律,是两条完全不同的路线。博主Clear-Aurora说得直白:玄戒O100和韬定律没有关系。微博再形象一点:前者是画好几幅画再粘叠到一起,后者是把一幅画立体地画出来。

小米这条路叫多Die堆叠,业内术语是WoW(Wafer on Wafer)。晶圆正常流片,然后叠起来:底下一颗逻辑Die,上面叠两颗DRAM存储Die,一共三层,用混合键合连成一体。可以把它理解成盖楼:算力层在底,上面摞两层内存,楼层之间打满垂直高速通道。小米芯片负责人朱丹在沟通会上介绍,通孔可以做到0.7微米的超小尺寸,键合间距做到1.4微米。中国新闻网它解决的是带宽问题。端侧大模型推理的瓶颈早就不是算不动,而是数据搬不动:模型参数躺在内存里,NPU排队取数,路就那么窄,这就是"内存墙"。把内存搬近、直接摞在算力头上,路短且宽,就是近存计算。思路类似AI加速器上的HBM,但O100更进一步:HBM是内存和算力并排坐,O100是内存直接坐到算力头顶。

华为的韬定律是另一个方向:不叠多颗芯片,而是在一颗芯片内部、在设计阶段就做三维重构,业内叫"逻辑折叠"。τ是电路理论里的时间常数,核心思路是在设计层面绕开制程的限制。9月份华为Mate90系列将搭载全新的韬定律麒麟芯片,率先采用逻辑折叠技术。微博这也是首款落地该技术的量产手机芯片,发布时间就在9月。微博

所以博主定焦数码的判断比较中肯:两者同属3D封装、同一条大路线,但差异很大——小米是多Die集合,华为是单Die立体。微博小米盯的是DRAM带宽瓶颈,华为盯的是制程压力,两者解决的根本不是同一个问题。"抢首发"从一开始就是个伪命题。真正值得盯的是:9月开始,两条3D集成路线将第一次用真量产产品正面碰一碰。

二、热度之外,这盆冷水值得听

吹完说点冷水。知乎上有个讨论值得注意:一位芯片行业人士按公开资料估算,O100面积约90平方毫米,算力大概60到120 TOPS,叠的两层DRAM算下来容量只有6到9GB,计入KV Cache后基本只能跑3B级别的小模型。知乎用他的原话说,这个玩具有点不上不下。

要说明的是,这是博主基于公开资料的估算,小米官方并未公布O100的具体算力和容量参数。但他举的这个参照值得琢磨:瑞芯微RK182X也在做DRAM的3D堆叠、1TB/s带宽,端侧推理已能跑到每秒100个Tokens以上。那O100的1.22TB/s,价值到底在哪?

我的判断是:O100真正的价值不在今天的参数表,而在于把路走通了。6nm上做三层晶圆级堆叠、把混合键合间距压到1.4微米,工艺本身就是门槛,这一点连质疑者也没有否认。行业里有人调侃小米发布会像"论文答辩",满嘴键合间距、TSV直径——说实话,这种参数恰恰是业内人很少愿意公开摊开讲的。

三、和你有什么关系?先记三件事

先泼个痛快:O100跟你今年的购机决策没关系。它是加速芯片,不上手机。但它的载体原型机已经亮相了。第一台是带风扇的阔折叠:O3与O100双芯协同,取消影像模块、主板全部重做,塞进10瓦主动风冷,现场就是用来跑本地大模型的。微博外观上,数码闲聊站在现场放出了超前瞻图:展开是一整块阔比例大屏,形态比例相当有辨识度。微博

玄戒O100带宽1.22TB/s、16倍于旗舰手机,但评论区纠结的是

另一台原型机更激进:小米AI Cube"Prototype"迷你主机,航空铝一体成型机身,把玄戒O3、O100、D100三颗芯片整合于一身,配80GB统一内存,能同时部署120B大模型和3B端侧模型,表面33874个CNC精密镂空散热孔,支持150瓦持续性能释放。知乎

但注意,两款原型机都处于技术验证阶段,暂无量产计划。知乎也有博主提醒:原型机的风扇是为验证双芯极限性能,量产版仅保留单芯片,风扇位置将回归相机模组。微博原型机负责秀肌肉,量产机负责走量,别把两件事混了。

玄戒O100带宽1.22TB/s、16倍于旗舰手机,但评论区纠结的是

但如果你对端侧AI和芯片产业有兴趣,这件事值得跟。朱丹在沟通会上明确说,玄戒O100将于明年正式投入商用。中国新闻网数码闲聊站也提到,听说明年量产后会大规模运用到多条产品线。微博定焦数码则判断,这套方案后续不会只用在手机上,AIPC、机器人、汽车都有机会用上。微博三个信号,建议记一下:

第一,看量产节奏。WoW三层堆叠的良率是最大变量,"明年商用"是否跳票,是第一个检验点。

第二,看首发落在哪条产品线。手机、AI Cube这类迷你主机,还是汽车,答案决定这颗芯片的天花板。

第三,看9月的对台戏。华为的逻辑折叠麒麟和小米的WoW堆叠,两条3D集成路线同月亮出量产产品,这是第一次真机对照,市场怎么评,值得蹲。

下半年旗舰战的主线,已经从跑分之战变成AI数据搬运之战。O3的522万分决定手机跑多快,O100的1.22TB/s决定端侧AI能走多远。后者的故事才刚开始。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章