当前位置:
AIGC文章详情

小米AI Cube官宣:三颗自研芯片塞进桌面盒子,本地跑120B大模型,硬件折腾党要不要等,先想清楚这3件事

源自18位全网作者

06:56

今天的小米玄戒芯片技术沟通会上,小米一口气端出三颗自研芯片:手机旗舰SoC玄戒O3、端侧大模型加速芯片玄戒O100、智驾芯片玄戒D100。但真正让硬件圈炸锅的,是雷军傍晚掏出的那个小铝盒子——小米AI Cube原型机,三颗芯片塞进同一台机器,本地部署120B大模型。微博官宣一出,评论区直接分成两派:一派在算它能不能当迷你主机用,另一派直接泼冷水——“有本事你拿货来卖啊”。对我们这种爱折腾硬件的人来说,先别急着喊"必入"或者"噱头",把几件事捋清楚再站队。

这盒子到底是什么

雷军给它的定位是"桌面AI高算力终端",机身航天铝一体成型,CNC精密镂空了超过33874个蜂窝散热孔。微博官宣视频还给出了150W持续性能释放。哔哩哔哩里面跑120B和3B双大模型,支持快慢系统切换,大致就是简单任务交给小模型、复杂任务叫大模型出山。

小米AI Cube官宣:三颗自研芯片塞进桌面盒子,本地跑120B大模型,硬件折腾党要不要等,先想清楚这3件事

注意,它瞄准的不是打游戏、剪视频的迷你主机。从小米的miloco到AI Cube,小米的主线一直是"本地大模型",解决的正是"数据上云放不放心"这个隐私痛点。有知乎用户点破了这步棋:小米的NAS解决的是家庭存储中心,现在要上的是家庭AI算力中心,人车家+本地大模型+全场景AI,这个盒子就是拼图之一。知乎

三芯阵容:O3管算力,O100管带宽,D100是"被抓壮丁"

先看玄戒O3:3nm工艺,安兔兔跑分522万,是首个突破500万的旗舰SoC,十核全大核设计让多核跑分首次突破15000,还是全球首个支持LPDDR6内存的移动处理器,NPU更是全面重构、专为小米MiMo端侧大模型而生。微博

小米AI Cube官宣:三颗自研芯片塞进桌面盒子,本地跑120B大模型,硬件折腾党要不要等,先想清楚这3件事

对折腾党来说,NPU这条信息更关键:200TOPS张量算力、端侧AI性能提升45%,说明AI Cube能本地跑大模型的底子,是从SoC这一层就设计进去的,不是后期外挂出来的。

小米AI Cube官宣:三颗自研芯片塞进桌面盒子,本地跑120B大模型,硬件折腾党要不要等,先想清楚这3件事

玄戒O100才是这次发布里最值得我们硬件党咂摸的一颗:小米首颗专为端侧大模型而生的高带宽AI加速芯片,行业首款6nm晶圆级垂直堆叠(Wafer on Wafer)先进封装,键合间距做到1.4微米,相当于把内存直接叠在算力芯片头上。官方给出的带宽是1.22TB/s,是传统旗舰手机的16倍,端侧推理速度最高330TPS。微博

玄戒D100则是从车那边"被抓壮丁"来的:它本是一颗智驾芯片,宣称是国内首款3nm高算力智驾芯片,20核CPU+16核NPU,最大支持160GB统一内存,本地最高能部署200B参数的超大模型,明年上车之前先在这台AI桌面原型机里服役。微博

为什么说O100才是真看点:它捅穿了"内存墙"

玩本地大模型的都知道那个痛:瓶颈往往不是算力,而是内存带宽。模型参数要不停地从内存里搬,带宽不够,算力只能干等数据,这就是大家说的"内存墙"。

知乎博主Gemfield算了一笔账:主流旗舰手机用PoP封装,内存带宽大概68到100+GB/s,这个带宽下跑3B端侧模型,实际文本生成速度只有14-18 tokens/秒(8-bit量化),日常基本没法用;而O100用WoW把DRAM直接堆在逻辑die上,带宽干到1.22TB/s,同样是3B模型,生成速度能飙到330 Tokens/秒。知乎

所以小米敢喊"本地跑大模型",底气不是堆算力,而是先把内存墙捅了个窟窿。这也解释了它为什么要单独做一颗"加速芯片",而不是指望O3一个人扛。

折腾党最关心的三个问题

能不能买到?短期内大概率没戏。雷军的原话说得很清楚:三款芯片已完成全部设计和验证,玄戒O3在小米18 Fold上首发,O100和D100明年才量产应用。微博也就是说,AI Cube目前是原型机状态,连O100、D100这两颗关键芯片都还没量产。评论区那句"有本事你拿货来卖啊"虽然扎心,但说的是事实:没定价、没货,眼下所有的热闹都是技术欣赏。

能不能折腾?目前的信息看,很悬。O3本身是ARM架构,装Windows基本没戏;想装Linux,评论区有人认为"o3是arm,可以自己装",但前提是驱动适配——“那得看小米官方愿不愿意适配驱动”。它更可能的形态是一台封闭的AI算力设备:官方跑自家的MiMo,你用小米定义好的功能,而不是一台随便刷系统的迷你主机。想拿它当ITX平替的,建议先冷静。

会卖多少钱?官方没提价格,但有两个参照系。一是内存:内存价格正处在明显的上涨通道里,这种堆大容量统一内存、又用3nm先进封装的设备,BOM成本低不了,评论区就有人直言"冲这内存价格也便宜不了"。二是同行:英伟达DGX Spark约4000美元起,AMD的对位产品也卖3999美元,这类设备目前就没有便宜的。当然也有人押注小米会走性价比路线——“软件适配好的话,可以靠价格爆杀spark”,但看看产能和内存成本,这个期望先别拉太高。

能跑什么模型?官方口径是120B和3B双大模型,自家MiMo肯定适配得最好。但评论区等的显然不止这个:“做好Qwen3.8 27b的部署,肯定能大卖”。还有人盯着D100那160GB统一内存的上限,认为这台机器跑更大参数量的模型也有空间。后续开不开放第三方模型,是它最大的悬念。

等不及的话,现在有什么可以玩

英伟达DGX Spark:这个品类里名气最大的选手,搭载Grace GB10超级芯片(20核ARM CPU+Blackwell GPU)和128GB LPDDR5X共享内存,官方宣称AI算力1 petaflop,售价约4000美元。微博到今年3月,美亚的价格是4299美元,华硕Ascent GX10这类OEM版本便宜些,3300美元左右。知乎国内渠道也不便宜,小红书上晒单的评价里不乏"忽然那么贵了"的感慨。

小米AI Cube官宣:三颗自研芯片塞进桌面盒子,本地跑120B大模型,硬件折腾党要不要等,先想清楚这3件事

但有个前车之鉴要记住:id Software联合创始人John Carmack实测后公开批评它"实际性能仅为官方宣称的一半,功耗也不到标称值的一半,长时间运行甚至会过热",多位开发者随后证实了类似问题。微博买这类设备,标称参数和实际体验是两回事,一定先看实测。

AMD锐龙AI Halo:另一条官方路线,今年6月上市,定价3999美元(约2.7万元人民币),分Win11专业版、Linux双版本可选,比DGX Spark便宜700美元,预装ROCm AI软件栈。微博对想要Linux和开放生态的折腾党,这是目前更现实的官方选项。

还有一条老路:自己组一台大内存主机,跑量化后的中小模型,性能管够、系统随便装,就是兼容性全得自己扛。

谁该等,谁该现在就去玩

我的判断分三种情况:

  • 米家生态深度用户、在意家庭隐私的:值得放进长期观察清单。人车家+本地大模型是小米的真战略,但请等明年量产和定价落地,现在只需要欣赏技术。

  • 想折腾一台能刷Win/Linux迷你主机的:大概率要失望,ARM架构和封闭定位基本写死了它的玩法,建议直接看AMD Halo或者x86迷你主机。

  • 现在就想玩本地大模型的:别等。预算充足选DGX Spark但务必先看实测表现,预算有限就看OEM版本或者自己组大内存机器。

接下来值得盯三个信号:一是O100和D100的量产节奏、AI Cube到底开不开卖;二是定价,尤其是内存成本怎么变;三是开不开放Linux和第三方模型——评论区已经点名Qwen了。这三个信号亮了,这台盒子才可能真成为普通折腾党的第一台"家庭AI算力中心";不亮,它就只是一个漂亮的原型机。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章