随着ROCm 7.2的发布,AMD AIMAX395+ APU终于迎来了官方AI支持,但系统内核的选择与配置仍是难点。本文提供一份详尽的升级实战指南,涵盖了从内核更新、驱动安装到大模型推理性能优化的全过程,旨在帮助用户高效释放AIMAX395+的AI潜力。
智能速览
ROCm 7.2正式支持AIMAX395+,为本地AI推理铺平道路。
选择Linux 6.18.7内核可确保最佳兼容性与性能。
通过amd-ttm工具可将显存容量灵活设置至120G。
实测大模型推理速度提升显著,达到18T/s。
使用社区版PyTorch可完美兼容ComfyUI等应用。
精华内容
AMD AIMAX395+的AI生态曾一度让人望而却步,但随着ROCm 7.2的发布,情况已大为改观。以下是一份详尽的实战记录,展示了如何将其升级并优化,以应对本地大模型推理的挑战。
内核与驱动准备
官方文档建议在6.14内核上安装ROCm 7.2,但社区经验和兼容性表格表明,使用6.18.4或更高版本内核效果更佳。因此,选择下载并安装Linux 6.18.7内核。
安装前,必须彻底卸载旧的驱动模块,如ryzen_smu和amdgpu,以避免潜在的冲突。执行`sudo dkms remove ryzen_smu/0.1.7`和`sudo amdgpu-install --uninstall`后,重启系统并进入新内核环境,通过`uname -an`命令确认内核版本无误。
ROCm 7.2安装
在确认新内核环境无误后,可以开始安装ROCm 7.2。务必参考官方文档,使用`amdgpu-install`脚本进行安装,但有一个关键细节:必须添加`–no-dkms`参数。
完整的安装命令为`amdgpu-install --no-dkms --usecase=graphics,rocm,hip`。这个`–no-dkms`参数对于在特定内核上确保驱动正常工作至关重要,省略它可能导致安装失败或系统不稳定。
显存配置与验证
安装完成后,需要配置共享显存大小。以往的方法在新版本中已失效,正确的做法是使用AMD官方的调试工具。
通过`pipx`安装`amd-debug-tools`后,使用`amd-ttm`命令即可查看和设置显存。例如,执行`amd-ttm --set 120`可以将可用显存设置为120GB。
为了验证升级效果,编译新版的llama.cpp并运行Qwen3-235B模型进行测试。结果显示,推理速度稳定在18T/s,相较于此前13-14T/s的性能,提升幅度超过30%,证明了升级的有效性。
PyTorch环境搭建
由于官方PyTorch尚未发布支持ROCm 7.2的版本,需要转向社区维护的版本。TheRock项目提供了预编译的PyTorch版本,可以直接使用。
安装TheRock版的PyTorch前,建议先通过`pip install cxxfilt`安装依赖,以便后续安装apex等加速库。在ComfyUI中测试Hunyuan I2V模型生成1080p视频时,系统运行流畅,得益于原生fp16支持,显存占用控制得相当低。
经过一系列配置,AIMAX395+在本地大模型推理领域的表现已趋于成熟,不再是‘玩具’属性。从系统兼容性到实际性能,AMD的努力使其成为一个值得考虑的选择。未来,随着软件生态的进一步完善,它在个人AI工作站中的潜力将如何被进一步发掘?