120W核显搞定3A+32B大模型!AMD Strix Halo实测
Valve最近开放了SteamOS的第三方硬件适配,AMD Strix Halo成了首批尝鲜者之一。有人用它跑3A游戏稳定60帧,有人拿它本地跑32B大模型——一颗APU(加速处理器)同时兼顾游戏和AI推理,听起来有点跨界。实际表现怎么样?先从硬件架构说起,再逐个场景验证。
统一内存架构:显存焦虑的解法
传统笔记本里,CPU和GPU各用各的内存,数据跨总线搬运是瓶颈。Strix Halo把这堵墙拆了——CPU、GPU、NPU共享同一块LPDDR5X内存池,最高128GB配置。这直接改变了游戏规则:RTX 5090有32GB显存,RTX 4090有24GB,而Strix Halo给GPU可用的内存空间能到110GB以上,Linux下甚至更高。1
内存带宽同样是强项。256-bit位宽的LPDDR5X-8000,实测带宽约215-256 GB/s。对大模型推理来说,带宽就是命脉——模型每生成一个token,都要把权重从内存读一遍。带宽越高,token生成速度越快,这也是Strix Halo能跑动32B量级模型的核心原因。2
SteamOS+3A游戏:核显天花板实测
续航是明显短板:运行低负载游戏《空洞骑士:丝之歌》时功耗不足16W,续航可达7小时;但1440p跑3A大作,73Wh电池只能撑1.5-2小时。要想流畅玩3A,还是得接电源。3
本地大模型推理:能跑多快、怎么选配置
大模型推理是Strix Halo更亮眼的场景。实测数据很直观:7B模型GPU加速后45-50 tokens/s,首字延迟不到0.3秒;14B模型28-32 tokens/s;32B模型12-15 tokens/s。相比纯CPU模式(7B才12-15 tokens/s,32B只有2-3 tokens/s),这是从"能用"到"好用"的质变。5
内存容量决定能跑多大模型。32GB内存是跑14B的起步线,跑32B建议64GB。32GB跑32B模型在长上下文场景下容易触发内存交换,速度会降到10 tokens/s左右;64GB则能稳定在12-15 tokens/s。128GB顶配更夸张,有人用Qwen3-Coder 30B跑出了98-100 tokens/s——这已经是集显跑大模型的天花板级别。6
量化等级的选择也有门道。14B及以下模型,Q5_K_M是甜点区间——速度损失比Q4少10%-15%,精度却更接近FP16;70B以上大模型,建议Q4_K_M,因为带宽瓶颈下Q6和FP16速度会断崖式下跌。7
长时间跑AI,散热和软件环境要注意什么
跑32B大模型一小时后,C面温度会到46℃左右,GPU频率在45分钟时会出现约5%的降频。不过Strix Halo的调度策略偏保守,会微调频率而非断崖式下跌,一小时后生成速度仍能维持在11-12 tokens/s。用散热底座能降7℃左右,GPU频率更高,token速度提升约10%。长时间推理的用户,建议垫高机身增加底部进风。8
软件层面有坑:ROCm驱动在Windows上偶有报错,部分用户反映被折腾得不轻;Llama.cpp的Vulkan后端反而更稳,长上下文场景下性能衰减更小(ROCm在76k上下文时衰减64%,Vulkan只衰减12%)。如果主攻本地大模型,Vulkan方案可能比ROCm省心。9
功耗方面,Strix Halo整机功耗约120W,对比RTX 4090(450W)或H100(700W)可以说是相当克制。追求性价比的大模型推理玩家,可以用这台机器单卡跑70B Q4量化版,速度约5 tokens/s——不如高端独显快,但胜在功耗低、占地小、不需要模型并行。10
选哪个配置看用途:如果主攻游戏+日常办公,锐龙AI Max+ 392配32GB足够;如果要跑32B大模型或做AI开发,64GB起步更实用;128GB顶配则是冲着70B甚至120B模型去的,Qwen3-Coder 30B能飙到接近100 tokens/s。单颗芯片的内存容量上限,决定了它能承载多大的模型——这是和传统独显方案最大的区别。
当前文章无评论,是时候发表评论了