macOS 26.2引入的RDMA技术让Mac Studio集群成为AI计算的焦点。通过实测四台M3 Ultra Mac Studio组建的集群,我们得以一窥其惊人的算力与能效比。这不仅展示了苹果芯片的强大性能,也为个人或小型团队构建AI计算集群提供了新的可能。
智能速览
单台M3 Ultra性能全面超越Dell与AMD竞品。
M3 Ultra是首款达成1 Tflop FP64算力的迷你主机。
四台Mac Studio集群算力达3.7 Teraflops。
Thunderbolt连接的推理性能显著优于以太网。
支持RDMA的Exo 1.0框架能最大化集群性能。
精华内容
实测数据是检验性能的唯一标准。下面将通过具体的基准测试,从单机性能到集群协作,深入剖析Mac Studio在AI计算领域的真实表现。
单机性能碾压
在与Dell Pro Max(GB10)和Framework Desktop(AMD AI Max+ 395)的对比中,M3 Ultra Mac Studio展现了压倒性优势。尽管价格高达9499美元,但其Geekbench跑分在单核和多核性能上均全面超越两个对手,多核优势尤为明显。
在HPL FP64基准测试中,M3 Ultra成为首款突破1 Tflop FP64算力的迷你主机,其性能是Dell Pro Max的两倍。在AI模型推理方面,无论是大模型还是小模型,M3 Ultra都处于领先地位,甚至能耗表现也极为出色,空闲时功耗仅为10W。
集群算力集结
将四台M3 Ultra Mac Studio组成集群,算力得到了显著提升。在HPL基准测试中,通过2.5G以太网连接,集群总算力达到了3.7 Teraflops,考虑到其中两台内存为256GB,这个接近三倍的性能增长已相当出色。
尝试使用Thunderbolt(TCP模式)进行HPL测试时,集群在运行一分钟后出现了崩溃,这表明在某些重负载计算场景下,网络协议的稳定性至关重要。
网络瓶颈突破
网络连接方式对集群性能影响巨大。在Llama.cpp基准测试中,即便未使用RDMA,Thunderbolt(TCP模式)的推理性能依然远超以太网(TCP模式)。这得益于Thunderbolt更高的速率和四台机器间的全互联架构,而以太网模式只能是串行连接。
为了充分释放RDMA潜力,测试转向了完整支持该技术的Exo 1.0框架。结果显示,在Qwen3 235B和DeepSeek V3.1 671B等大模型上,Exo(RDMA)模式相比Llama.cpp(Thunderbolt TCP)模式获得了显著的性能提升,证明了RDMA在降低延迟、提高效率上的核心价值。
Mac Studio集群的实测结果令人印象深刻,它证明了基于苹果芯片构建高性能、高能效AI集群的可行性。随着软件生态的完善,特别是RDMA技术的普及,个人和小型团队将拥有更强大的计算能力,探索AI的边界。