快科技11月22日消息,据TECHPOWERUP报道,微软在Windows11上启用了基于USB4协议的远程直接内存访问(RDMA)技术,无需专用网卡或配置网络交换机,即可将多台PC串联起来,共同处理大型工作负载。
这意味着AI推理不再受单机规格限制,能分散到几台互联设备上处理数据,上限取决于设备数量与各自配置。
微软还公布了实测数据:在双机互联环境下,利用RDMA技术,通过USB4连接的延迟在28至50微秒之间。
作为对比,同一USB4链路上通过UDP封包的以太网方案为116至194微秒,大约是RDMA的四倍。更低延迟的最大受益者是对响应敏感的任务,AI推理便在其中。
USB4单链路最高数据传输速率为80Gbps,足够支撑内存之间的数据搬运。每台PC构成独立的USB4域,Windows连接管理器在两者之间创建点对点隧道,数据在双方已注册的内存区域之间直接传输,不经过额外的封包与解包环节。
RDMA的作用是让一台机器直接读写另一台机器的内存,绕开双方操作系统协议栈,CPU不必参与每一次搬运。
这种方式把原本只有以太网卡和InfiniBand才有的能力搬到了一根普通数据线上,代价是集群规模受限于USB端口数量,而不是网络交换机。

编辑:鹿角
【本文结束】如需转载请务必注明出处:快科技
当前文章无评论,是时候发表评论了