狙击NV！英特尔Gaudi 2 AI芯片在MLPerf基准测试很猛

英特尔Gaudi 2 AI芯片的性能：英特尔发布了其2023年11月的MLPerf训练3.1结果更新，显示其在GPT-3性能上相较于之前的预期提升了103%，超出了6月份预计的90%。Gaudi 2 AI芯片在最新的MLPerf基准测试中表现出色，特别是在GPT-3训练方面。Gaudi 2显示出在FP8数据类型上的显著性能提升，其在384个加速器上完成GPT-3训练的时间从之前的311.94分钟降低到153.58分钟。此外，英特尔Gaudi 2在多模态模型Stable Diffusion的训练上也表现出色，仅用64个加速器就在20.2分钟内完成训练。另外，英特尔还指出，第四代Xeon是唯一提交MLPerf基准测试结果的CPU，其性能表现同样强劲​1​​。

MLPerf基准测试的历史和发展：MLPerf基准测试旨在通过定量工具帮助平衡AI的利益和风险，为负责任的AI开发提供指导。这些基准测试为工程师设计可靠的产品和服务提供中立、一致的准确性、速度和效率测量，同时帮助研究人员获得新的见解以推动明天的解决方案。MLPerf基于MLCommons的基础上发展而来，旨在为机器学习提供一个有代表性的基准测试套件，公平评估系统性能。这些基准测试由专家工作组社区定义，确立了公平的AI系统基准​。