基于ollama测试AMD 9070xt与NVIDIA 4080，一新一旧，谁是王者？#AMD #9070xt #ollama AI

针对本地AI算力需求，通过Ollama平台对AMD RX 9070XT与NVIDIA RTX 4080进行了实际测试。该对比提供了从轻量到重载模型下的具体性能数据，揭示了在AI应用场景中，两款显卡的真实表现与差距，为有相关需求的用户提供明确的参考依据。

智能速览

• 测试使用Ollama对比了RX 9070 XT和RTX 4080的AI算力。

• 在14B模型下，4080速度约60token/s，领先9070XT约20%。

• 在30B模型下，4080速度降至39token/s。

• 同样在30B模型下，9070XT速度骤降至11.5token/s。

• 大模型下9070XT性能衰减严重，显存压力是主因。

精华内容

通过运行不同参数量的AI模型，实测数据揭示了这两款显卡在AI计算能力上的真实差距与性能表现。

测试环境说明

本次测试在两台配置差异较大的电脑上进行。AMD平台采用Ubuntu 24.04系统，搭载英特尔i7-9代处理器、24GB内存及RX 9070XT显卡（16GB显存）。NVIDIA平台则为Windows 11系统，配备了英特尔i7-14700KF处理器、64GB内存及RTX 4080显卡（16GB显存）。测试软件为Ollama，模型选用千问3的14B和30B版本，以衡量其生成token的速度。

轻量模型表现

首先测试参数量为14B的千问模型。在此环节，AMD RX 9070XT的表现相对稳定，多次测试后其生成token的平均速度约为47至49 token/s。相比之下，NVIDIA RTX 4080的速度明显更快，稳定在58至61 token/s的水平。从数据上看，在处理较小规模的AI模型时，4080的性能领先幅度大约在20%左右，9070XT尚能保持一定的竞争力。

重载模型对比

当测试模型升级到参数量更大的30B版本时，两款显卡的性能差距被急剧拉大。NVIDIA RTX 4080虽然速度也有所下降，但依然保持了每秒39 token的生成速度。而AMD RX 9070XT的性能则出现断崖式下跌，速度骤降至每秒仅11.5 token。尽管两款显卡均配备了16GB显存，但在高负载下，9070XT的效率明显不如对手，差距达到了3倍以上。

性能差距分析

综合来看，AMD RX 9070XT在应对轻量级AI任务时，其表现尚可接受，与上代NVIDIA高端卡的差距并未达到不可接受的程度。然而，当模型参数增大，对显存和计算效率提出更高要求时，9070XT的性能衰减远超4080，暴露出其在重负载AI计算场景下的短板。这表明，对于计划在本地运行大型语言模型的用户而言，显卡的架构效率和软件优化，在实际应用中可能与显存容量等硬件参数同等重要。

实测结果显示，在处理小型AI模型时，9070XT尚有一战之力，但面对大型模型，其性能衰减远超4080。这表明在AI应用中，显卡的架构优化与软件生态或许比单纯的硬件参数更为关键，这对未来硬件选择提供了新的思考维度。