AMD与英特尔合作,为AI推理打造单一PyTorch代码路径

AMD一直维护着一个名为ZenDNN的oneDNN下游分支,该分支现在将并入开源oneDNN。oneDNN最初由英特尔开发,构建于先前的深度学习库之上,之后被纳入UXL基金会。英特尔是UXL基金会的创始成员之一,其他创始成员还包括Arm、高通和谷歌云等。AMD同时宣布以“指导成员”身份加入UXL基金会,该级别可“影响UXL基金会的未来方向”,年费为2万美元。
AMD表示,将这些工作统一到oneDN之下的举措是由x86生态系统咨询小组(EAG)建议的。EAG是一项主要由英特尔和AMD共同参与的联合倡议,成立于2024年。两家公司此前已通过EAG开展过合作,例如今年早些时候的x86 ACE扩展。

oneDNN后端用于CPU推理,旨在PyTorch等框架中的最新英特尔(以及现在的AMD)芯片加速这一工作负载。2023年底oneDNN作为后端加入PyTorch时,在Float32数据类型下实现了1.24倍的性能提升,在BFloat16数据类型下实现了2.21倍的提升。
根据oneDNN的GitHub页面,该库能够“在运行时检测硬件特性”,从而为相应平台生成优化内核,并提供低精度数据类型。它还针对常见的人工智能和机器学习操作(如矩阵乘法和卷积)提供优化指令。对于开发者而言,此举简化了在不同系统上使用PyTorch的工作,确保单一后端即可为所运行的硬件提供适当的优化。尽管这个新闻聚焦于x86领域,但oneDNN是一个跨平台库,同样支持Arm和RISC-V架构。
