这两天A卡圈的时间线很热闹。B站标题写着"AMD显卡也能跑AI了!ROCM驱动正式登陆Windows,可本地部署大模型!"的视频挂上来,评论区却有人泼冷水:“rocm win版出了挺久吧”。哔哩哔哩
先把结论说了:这两句都真,真的还不是一个层面。驱动确实在推送——硬件媒体VideoCardz 10月5日报道,AMD放出了面向Windows的ROCm 10.1专属"肾上腺素(Adrenalin)“驱动,把ROCm这个原本偏数据中心的计算栈,用消费级游戏驱动的方式端给了RDNA3/4的卡。 而Windows上的ROCm/HIP工具链也确实存在好几年了,只是以"半成品"的形态存在——那条"7.1之前ComfyUI升级一次崩一次"的老玩家吐槽,才是过去几年A卡党的常态。所以这轮解锁的意义不是"从0到1”,是"从半成元到官方正眼看待消费级玩家"。小红书哔哩哔哩
但先别忙着冲。这张表上,除了真机会,还有假高潮(官方"提升3倍"的PPT口径至今没有第三方复测)、价签异动和一大串被名单落下的人。三本账,一本一本来。
一、驱动本尊:推给谁、不推给谁
项目 | 内容 | 口径来源 |
|---|---|---|
驱动形态 | 面向Windows的ROCm 10.1专属Adrenalin驱动,消费级Radeon随游戏驱动交付 | VideoCardz报道(2026-10-05,作者WhyCry) |
支持名单 | RX 9000系列、RX 7900/7800/7700/7600系列、Radeon AI PRO R9700系列 | 同上 |
生态位 | ROCm对位CUDA,常配合PyTorch与本地推理引擎使用 | 同上 |
性能说法 | “跟Linux统一开发包了,号称提升3倍” | B站评论区转述,无第三方复测,别按此付费 |
名单之外 | RDNA1/2老卡(5700XT、6900XT等)不在列 | 社区质疑的原话是"9000和6000系那我都5700xt怎么办啊" |
这里有个必须拆的误区:“早就能跑"和"官宣登陆"不矛盾——能跑,和"官方把消费级卡当正式用户伺候”,是两回事。老路线的真实成本在折腾本身:这周还有硬件博主自述新装AI小主机,“标准的官方驱动和HIP死活不行,最后靠改DLL才跑起来”。 这轮驱动如果真把折腾成本砍下来了,那才是A卡党等了多年的东西。微博

二、A卡跑本地大模型的三条路线:全是自报数,但账目能对上
引擎层这一周同样密集:MoE4All 1.0.3在10月17日发布,B站、小红书同步刷"太震撼了"。把社区真机数字收拢到一张表:小红书
路线 | 代表 | 依赖什么 | 社区自报的代表数字 | 适合谁 |
|---|---|---|---|---|
原生llama.cpp | 老牌路线 | HIP或Vulkan后端 | 9070(16G)跑Qwen3.8-27B IQ3_S量化,“聊天没问题”;评论区总结得很诚实:“A卡跑大模型还是太慢了” | 求稳、只跑27B以下的人 |
Strata | 开源MIT引擎 | ROCm/HIP | 7900XTX(24G)跑Qwen3.8-Flash-Next(125B总参、每token只激活6B):prefill峰值2030 tok/s,是官方同卡基线901–966的2.1倍,decode 60–83,262K上下文;二手MI50×2同模型:输出约40–60 tok/s | 已有24G A卡、想开大模型的人 |
MoE4All | 1.0.3新引擎 | Vulkan,不挑驱动 | 7900XTX跑Qwen3.6-35B-A3B:prefill 3604.7、三路decode总吞吐206.6 tok/s;跑FlashNext 4.27bpw:30K上下文双路decode 65.2 | 不想折腾ROCm、和"被落下的人"的备胎路线 |
三点提醒,比数字本身重要:
第一,以上全是发帖人自报,没有第三方统一跑分。同卡同参才有参照性——抄作业先抄配置,这是评论区"我怎么跑不出这个数"全部翻车点的来源。
第二,A卡上"参数吃卡"比想象中狠。7900XTX那位作者实测发现官方示例里的–prefill 512其实是冒烟测试值,改成auto(上限32768)后,16K/32K/240K上下文的prefill分别涨了519%、635%、410%——代码一个字没改,只动了一个参数。小红书

第三,别被prefill骗了。真正决定"用着爽不爽"的是decode:60–83 tok/s是够用的体感线,40–60 tok/s是二手MI50双卡的天花板。这张表上"大"能跑,靠的是模型端两个红利:MoE(125B总量只激活6B)让显存压力骤降,GDN线性注意力让上下文从32K拉到262K显存只多8MB——长上下文"不要钱"才是这代模型的隐藏门票。而速度上限卡在带宽和CPU/内存:那位作者自己的瓶颈是两颗没AVX-512的老至强加DDR4,“换新CPU,prefill还能涨”。驱动解决的是"能跑",不是"跑到顶"。哔哩哔哩小红书

三、三本账:门票、价签、退路
门票账。按你手上的卡对照:16G的RDNA4(9070)——27B量化档,聊天干活入门;24G的7900XTX——125B MoE档+262K上下文,Strata和MoE4All双实测。32G的Radeon AI PRO R9700——社区称"为数不多的买得起的32G显存",有人自报四卡15万内预算做企业级部署。 二手MI50——40–60 tok/s封顶,玩可以,别上生产;5700XT/6900XT——不在驱动名单,Vulkan备胎路线自己承担稳定性。小红书

价签账。解锁叙事已经在推门票涨价:R9700去年9月发布口径约9000元、去年10月底上架10999元,今年10月10日小红书自报已涨到13999元、发帖人甚至喊"17999也不是没可能"。 二手这边"2000买的7800XT小黄鱼涨价了",评论区一排"AMD显卡也要涨价了?"的担忧。这些价签全部是社区自报、没有收发货单级别的交叉验证——但方向是清楚的:第一波涨价由新闻驱动,不由实测驱动。追高接票,是解锁行情里最容易交的学费。小红书哔哩哔哩
退路账。真被名单落下的老A卡,退路是MoE4All这类Vulkan引擎;真嫌A卡慢的,退路是把这轮当观察期而不是行动期。反过来,N卡党也别急着笑话:这轮125B在A卡上的性价比叙事(24G旧卡跑125B开262K)正在改选型题的题面。
四、按人群分三个动作
手里有RDNA3/4卡的:别急着冲跑分,先跑一遍自己的验收(能不能load、吐字速度、长上下文、拒答率),过了再把"模型+引擎+参数"三件套锁死。这轮所有社区数字,只在配置完整复制的前提下有意义。
想捡二手门票的:RDNA1/2别为新驱动掏钱;MI50的40–60 tok/s是天花板不是起点;闲鱼7800XT/7900XT此刻带"新闻溢价",等第一波第三方实测潮落地再动手。
准备买新的:你的需求决定一切——要32G显存(跑125B留余量、27B满上下文),R9700是当前唯一够得着的选择,但13999是自报口径,先核当下实价;只要27B聊天档,9070/7900GRE这类16G档先看现价再对比;两种需求都不该为那句没复测的"提升3倍"付溢价。
五、接下来盯什么
Strata、MoE4All会不会跟进RDNA2的官方支持——被落下的人有没有第二次机会,看引擎不看AMD;
AMD后续release notes里会不会给出可供第三方复测的基线数字——"3倍"从PPT变成事实还是变成笑话,看这一步;
闲鱼7800XT/7900XT的价格曲线会不会随实测潮回落——价签是情绪的先行指标;
下一档Flash系模型还玩不玩"MoE+线性注意力"这套组合——组合一变,这张表的门票档位全体重排。
一句话收尾:解锁是真的,被落下是真的,涨价也是真的。A卡党现在该做的不是庆祝,是对完三本账再决定——门票、速度、价签,哪本不对,就别掏钱。