两倍性能提升，Arm公布AGI CPU与AMD EPYC的基准测试对比

AGI芯片是由Arm设计的一款CPU，于今年早些时候发布。这是该公司设计的首款服务器级CPU芯片，专为AI智能体工作负载而精心优化，兼顾高性能、可扩展性和效率。该芯片采用了Arm第三代Neoverse核心，这些核心通过与超大规模数据中心运营商的多层级合作，针对智能体工作流进行了专门调优。

其中一些优化包括降低内存延迟，以确保每个核心都能获得高内存带宽。这些芯片还专为机架级和机架规模部署而设计，可实现线性扩展且性能无下降（达到90-95%的利用率）。此外，芯片的功耗设计减少了对额外冷却能力的依赖，从而降低成本，并使超大规模数据中心运营商能够在单个机架中部署更多核心。

在最新的基准测试中，研究机构Signal65对AGI CPU进行了横跨TerminalBench和SwayBench的全面基准测试。AGI CPU与基于Zen 5架构的AMD EPYC Turin芯片进行了对比。结果显示，AGI CPU不仅能够提供更高的单核性能，而且还能实现更高的单机架性能。

Futurum Group的分析称，就单芯片而言，AGI CPU在7项工作负载中平均达到EPYC 9755的1.2倍，其中AMD在两场测试中获胜：MySQL（0.88倍）和Milvus（0.95倍），在插槽级别上x86部件占优。而1.99倍的提升则源自Arm的官方服务器功耗模型，该模型将21-23台AGI CPU 服务器置于一个24千瓦的机架中，相比之下EPYC 9755只能容纳13台；物理核心数为5,712-5,888对3,328，因为单台AGI CPU服务器的额定功耗为950-1,050瓦，而双路EPYC系统的功耗为1,700瓦。

将单芯片结果乘以1.62倍-1.77倍的密度系数，即可得出机架级别的数据。该报告自身的敏感性分析值得一引：内存按每个硬件线程4 GB配置，这使得支持SMT的EPYC机架每台服务器拥有约2 TB内存，而AGI CPU则为1 TB；如果改为按物理核心配置内存，7项工作负载的平均提升将从1.99倍降至约1.81倍。

以下是测试结果的详解：

Arm AGI CPU实现了每机架2倍的工作量。在7项工作负载中，AGI CPU的建模机架级性能平均达到EPYC 9755的1.99倍，单项工作负载的提升幅度从1.43倍-3.19倍不等。

机架级密度是关键驱动因素。Arm AGI对效率和可扩展性的专注实现了机架级的计算密度。按照Arm的额定功耗模型，一个24千瓦的机架可以容纳21-23台AGI CPU服务器，而EPYC 9755只能容纳13台；物理核心数对比为5,712-5,888对3,328。密度系数基于服务器功耗之比，因此在任何机架功率水平下都成立。

在智能体工作负载中实现更高的机架级性能。Arm AGI CPU在3个智能体性能类别的建模机架级性能中全面领先：工具调用平均提升1.7倍，端到端智能体工作流提升2.0倍，推理/规划提升2.2倍；同时其额定服务器功耗低于AMD EPYC 9755（双路服务器分别为950-1,050瓦对1,700瓦）。

更低的沙箱创建延迟。与双路AMD EPYC 9965相比，AGI CPU在Sandbench报告的全部三种沙箱运行时（runc、Firecracker和gVisor）中均实现了更快的沙箱创建速度：冷启动时间减少45%，温启动减少27%，在4倍超配的最坏情况下减少41%，从而降低了智能体环境的开销。

随着行业持续推出面向AI智能体优化的芯片，这一领域的竞争正日趋白热化。几乎每周都能看到某家厂商发布超越竞争对手的测试结果，随后竞争对手又会以全面的基准测试数据强势回击。

虽然核心数量持续增加，但智能体需要更快的核心，而这正是所有厂商的关注焦点。此外，这些基准测试并未涵盖AMD基于Zen 6架构的EPYC Venice芯片，该芯片在单核性能方面展现了巨大的提升。随着Venice的逐步推出，希望可以看到更多与竞争对手最新产品进行的基准测试对比。