AMD与英特尔合作,为AI推理打造单一PyTorch代码路径

AMD与英特尔合作,为AI推理打造单一PyTorch代码路径

2026-10-22 22:02:26 0点赞 0收藏 0评论
英特尔和AMD正将其面向PyTorch的CPU优化整合进一个统一库,通过oneDNN库为AMD和英特尔芯片提供调优。这是迈向x86 CPU简化方案的重要一步,它将使AI工作负载在两家阵营的芯片上都能更高效地运行,同时减少x86生态系统的碎片化。此外,oneDNN框架还将使PyTorch应用的开发更加便捷。

AMD与英特尔合作,为AI推理打造单一PyTorch代码路径

AMD一直维护着一个名为ZenDNN的oneDNN下游分支,该分支现在将并入开源oneDNN。oneDNN最初由英特尔开发,构建于先前的深度学习库之上,之后被纳入UXL基金会。英特尔是UXL基金会的创始成员之一,其他创始成员还包括Arm、高通和谷歌云等。AMD同时宣布以“指导成员”身份加入UXL基金会,该级别可“影响UXL基金会的未来方向”,年费为2万美元。

AMD表示,将这些工作统一到oneDN之下的举措是由x86生态系统咨询小组(EAG)建议的。EAG是一项主要由英特尔和AMD共同参与的联合倡议,成立于2024年。两家公司此前已通过EAG开展过合作,例如今年早些时候的x86 ACE扩展。

AMD与英特尔合作,为AI推理打造单一PyTorch代码路径

oneDNN后端用于CPU推理,旨在PyTorch等框架中的最新英特尔(以及现在的AMD)芯片加速这一工作负载。2023年底oneDNN作为后端加入PyTorch时,在Float32数据类型下实现了1.24倍的性能提升,在BFloat16数据类型下实现了2.21倍的提升。

根据oneDNN的GitHub页面,该库能够“在运行时检测硬件特性”,从而为相应平台生成优化内核,并提供低精度数据类型。它还针对常见的人工智能和机器学习操作(如矩阵乘法和卷积)提供优化指令。对于开发者而言,此举简化了在不同系统上使用PyTorch的工作,确保单一后端即可为所运行的硬件提供适当的优化。尽管这个新闻聚焦于x86领域,但oneDNN是一个跨平台库,同样支持Arm和RISC-V架构。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
京东京享红包
距结束::
领京东现金红包 天天领3次 最高26888元
红包按钮
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松