什么值得买App下载 App ›
连续签到专享现金活动

几台普通电脑用USB4线拼起来跑235B?微软给了演示,没给构建

本地部署这半年,最难听的一句话不是"跑不动",是"装不下"。

16G 的卡摆在那儿,想跑的模型动不动十几二十 G。以前就三条路:压量化,压到它一本正经地胡说;分层卸载,把专家丢进内存和硬盘,慢到泡面泡好还没吐完一段;或者掏钱换卡——偏偏这个月显卡和内存一起在涨。

11 月 19 日,微软给了第四条:拿 USB4 线把几台电脑直连,拼成一个推理集群,合用每一台的内存和 GPU。知乎小红书微博

几台普通电脑用USB4线拼起来跑235B?微软给了演示,没给构建

官方演示长什么样

微软放出来的数据里最抓眼的一组:三台各 128GB 统一内存的 AMD Ryzen AI Max 迷你主机,40Gbps 的 USB4 全互连,跑 4bit 量化的 Qwen3-235B-A22B,大约 18.5 tok/s。换英特尔那边,三四台各 64GB 的酷睿 Ultra 用雷电4 全互连跑 GPT-OSS-120B,1K 上下文下三台 49.4 tok/s,四台 54.2。先把话说在前头:这些数字全来自微软官方博客,中文圈转的都是同一套,暂时没人复现;官方自己也标了,这是指定配置下的结果,不是家用电脑的通用速度。小红书知乎

一根线凭什么能当集群线

把模型拆开跑,最怕机器之间说话太慢。微软测过,两台机同一根 USB4 链路上,小消息往返大约 28–50 微秒,差不多是同线跑以太网(UDP)的四分之一。知乎

几台普通电脑用USB4线拼起来跑235B?微软给了演示,没给构建

想象力就在这儿:不必抢一张 48G 的卡,把家里两台吃灰的小主机连起来,可能就是 256GB。

但现在,你还用不上

三道门,一道比一道实在。

  • 第一道,构建还没放出。预览说是"即将"进 Windows Insider 的 Experimental 通道,博客发布那天镜像还没有。目前真正开放的只有 NetworkDirect 提供程序和示例代码。知乎小红书

  • 第二道,折腾成本不低。功能默认关闭,要改注册表,要开测试签名,而测试签名意味着关掉安全启动。

  • 第三道最容易被忽略:组网必须全互连,每两台之间一根线直连,三台就是每台两个 USB4 口。官方明确提醒别串成一条链,性能会明显下降。

最扎心的是接口那一栏

翻翻刚上市那批 AI 小主机的规格表:华硕 ProArt GR1X 背部是三个 USB-C 3.2 Gen 2×2,也就是 20Gbps 那一档,外加一个支持 PD 供电输入的同类口。微星 EdgeMesa N AI+ 后置四个 USB-C,标的同样是 20Gbps。知乎微博

几台普通电脑用USB4线拼起来跑235B?微软给了演示,没给构建

20Gbps 的 USB 3.2,接不上这条链路。

专门为本地 AI 生的那批机器,恰恰把多机互联的口省掉了:GR1X 背部布局和 DGX Spark 基本一致,唯独少了那个 ConnectX-7 200G 网口。真要现在就拼多台,成熟路子还是 DGX Spark 那条:最多连四台,两三台能直连,四台得上交换机。知乎知乎

那现在该干什么

一句话:先低头数口,别为一个还没放出的预览版下单。判断标准只有一个——机器上有几个标着 USB4 或雷电的口。凑三台,每台至少两个;只有一个的,暂时不通。

已经买了 20Gbps 小主机的倒也不必懊恼:这是 Windows 侧的原生能力,不是哪家硬件的私活,接口下一代大概率会补上。

本地部署这两年最贵的一课,从来不是"跑不起来",而是为了跑起来买错的东西。这一次,至少可以先等一等。

评论

评论区空态插画

当前文章无评论,是时候发表评论了