万元AI“桌面超算”!搭载锐龙AI MAX395+的GMK EVO X2测评
显存?快比金子贵了!
这两年AI语言大模型火热,最主要的原因还是以往神秘莫测、高不可攀的模型,从ChatGPT 3.0发布以来,不仅可用度大大提升,部署难度上也成倍下降了——曾经的AI模型都是要超级计算机档次的机器才能跑起来,而GPT“只”需要TB级别的显存就可以部署了,比如24年初的ChatGPT 4.0完整版本大小约为1.76TB,也就是1800G左右,尽管对于普通用户来说还是有点遥远,但是对于大公司来说已经算是有了可以部署的希望了。

真正引爆市场的,还是中国自己的DEEPSEEK大模型,它最大的特点就是保持甚至略有超出ChatGPT 4.0的性能的同时,极大地优化了部署门槛,完整的Deepseek-R1大小为671B,一下就比ChatGpt小了三分之二,而且deepseek是开源的!开源的!开源的!很快就有了各种基于Deepseek的蒸馏/量化的缩减版模型出来,最小的可以到7B、8B,也就是仅需要6-8G显存就可以部署了,甚至像AMD锐龙这样有强大集成显卡的CPU,也可以跑Deepseek 7B玩玩,似乎AI时代一下就触手可得了!当然,7B这个模型数据量连完整R1的零头都没有,简单玩玩还行,指望它正经回答个问题还是不现实的。
随着开源的Deepseek发布,一下子,“本地部署大语言模型”成了一个炙手可热的需求。对大语言模型来说,本地部署就是实现数据主权、安全可控与自主性:当处理敏感信息(如医疗、金融、政府数据)或关键业务时,它能杜绝数据外泄风险、确保合规;同时,本地部署可以完全规避对云服务商的依赖,保障业务连续性;另外,企业还可以自行深度定制模型以贴合内部流程和知识库,提升效率;长久来看,本地部署的大语言模型在高频使用场景下长期成本更低,并能实现超低延迟响应,支撑实时决策。本地部署大语言模型不仅是技术选择,更是掌控核心AI能力、保障安全的战略必要。
想要比较实用地本地部署大语言模型,一般认为14B是下限,最好是32B或者更大,再往上还有Qwen3 235B,号称能够超越初代671B的Deepseek-R1,非常具有本地部署的价值。然而这些模型所需要的显存也相应变大了,而拜AI大模型火热所赐,如今的显卡定价几乎是按算力和显存定价,尤其是N卡,三四千买个5060TI还是8G,简直就是抢钱!AMD这边要好一些,A卡显存普遍比N卡大一档。但是受限于显卡本身这个形态以及如今显存发展进程限制,那么小一张PCB上也不可能堆叠无数的显存上去,如今世界上最大显存的显卡也还不到100G,价格还贵上天,那想要更多的显存,要么插多卡,要么就是找更便宜的显存替代方案——内存!这就是专为AI时代设计的超级CPU——锐龙 AI MAX系列!
锐龙AI MAX 395+是何方神圣?

既然内存比显存便宜很多,AMD又有最强集显,那么......做个超级集显CPU如何?其实这个概念并不稀奇,游戏机上早就用上了统一内存架构,尤其是PS4/XB1之后主机市场完全由AMD统治,AMD做这玩意已经非常有经验了,一直没有出完全是因为市场需求不大不值当做——结果全民AI大语言模型时代来了,对显存需求暴涨,于是Strix Halo就应运加速而生了!

之所以是“应运加速而生”,主要就是这玩意设计的时候还没有Deepseek这码事,原计划是设计一款类似M4 Pro这样的超强笔记本CPU,提高集成度做一个大CPU+大核显的产品,因此原本设计的TDP功耗只有区区55W,其中旗舰型号锐龙AI MAX 395+是在一个CPU上封装了两颗ZEN5 CCD共16个核心,频率不算高,最高只有5.1GHz,以及一颗40CU的RDNA 3.5架构的超大集显——Radeon 8060S,规模介于7600的32CU和7700XT的54CU之间,另外NPU也是非常强的,足有50TOPS,是8845之流的好几倍。内存方面没有使用DDR5内存,而是使用了256bit LPDDR5x-8000,显然也是移动向的设计,板载内存高频率低功耗但是高延迟且不可更换,原计划上个32GB怎么也够用了,结果恰好撞上了AI浪潮,于是Strix Halo基本都是内存直接拉满128GB上了!

所以说从规格上看Strix Halo其实就是一个无心插柳柳成荫的产物:原本是一个定位比较小众的移动CPU产品,结果一下子成为了炙手可热的超级工作站产品,不仅用途大大拓展,身价也瞅着嗖嗖上涨——不知道Intel看到如今Strix Halo的火热,想念不想念被无情砍掉的Arrow Lake Halo......AI时代,Intel一直在掉队。
锐龙AI MAX 395+ AI大语言模型测试
既然是大语言模型专用CPU,那就首先来测试一下锐龙AI MAX 395+最重要的性能部分——AI大语言模型测试,使用的机器是目前唯一搭载锐龙AI MAX 395+的迷你主机极摩克GMK EVO-X2。
理论测试上,目前比较直观的是UL Procyon内置的AI大语言模型测试,缺点在于全部都是小模型,最大的也不过7B上下,对于AI MAX 395+来说完全体现不出其优势,不过这个跑分在迷你主机里依然是首屈一指的:

而正经大模型方面,GMK已经预装了名为模型助手的工具软件,可以比较简单地部署使用一些模型:



不过模型助手里的最大也就70B,完全体现不出来AI MAX 395的超大显存优势。在前阵子的AMD年度AI大会上,随着AI MAX 395+一起发布介绍的还有国内AI厂商Moyoyo给其优化的Qwen3-235B-A22B-IQ2_S模型,这个模型文件大小在70G以上,需要80G左右的显存才能正常跑起来,一般的方案就是4张RTX4090,然而这里只需要一个AI MAX 395+搭配128G内存就可以跑出4-5 token的速度,尽管还是很慢,但是能跑就是最大的胜利!
实际可用程度相当不错,从AMD官网扒了一个PDF让235B进行翻译归纳,一共跑了5分多钟输出了完整结果,基本可以直接拿来用,作为本地部署模型的话这个能力已经相当不错了——毕竟一台EVO X2现在还没有一张4090贵!


如果换成DeepSeek-R1-Distill-Llama-70B-Q4_K_M,规模小一点但是精度提高一些,可用度也非常不错,而且速度提升不少,差不多有8-10tokens了,这个速度输出起来就比较流畅了,翻译这个PDF大约1分多钟,准确度也不错——70B的Deepseek日常使用上体验已经非常接近满血的DS 671B和Qwen 235B了,主要是本身知识库的容量差别,如果是本地部署不联网使用的话其实都不太好用,毕竟这些模型的数据内容都比较老,但是如果用来搞现有资料的归纳总结之类的文案工作,70B已经非常非常好用了,企业内网要是有个70B,能方便很多!现在用一台EVO X2就能跑起来,不得不说是个巨大的进步!

GMK EVO-X2解析
由于正经的产品立项都在半年以上,因此Strix Halo这玩意刚有消息的时候,除了那些头部大厂,一般的厂商根本不会考虑,毕竟这玩意其实成本相当高,硅片面积高达400多平方毫米,而相同的4nm工艺的RX9070XT Navi48才357,再加上LPDDR5x等等外部芯片啥的,成本可想而知。结果就是AI浪潮来临之时,唯一首发产品是ROG的幻X平板,结果其128GB内存版本被一扫而空用来干活,非常不ROG不电竞......而更适合Strix Halo发挥的迷你主机,或者是叫迷你工作站产品,则只有这一款,GMK极摩克的EVO-X2。

由于大胆上马抢得头筹,GMK这款X2主机一直到现在都还是唯一正式发售的锐龙AI MAX+ 395主机,甚至前阵子苏妈来中国开会还专门给这个机器签了个名,排面可想而知!首发的EVO X2只有一款配置,128GB内存加2TB SSD的组合,CPU则都是AI MAX 395+,首发价格14999,应该是国内迷你主机价格的新高度了,结果依然一抢而空,这就是Strix Halo的魅力!

EVO X2的机身不大,不到20cm见方,在迷你主机里算大个子,但是考虑到其夸张的规格和性能,绝对是羽量级的!

板砖电源外置,经典DC 5525接口,230W功率。

两侧都是大面积的铝合金外壳,这边有GMKtek的LOGO和锐龙AI MAX+以及Radeon双LOGO,下面隐藏了个RGB风扇,左上角有个风扇模式按钮,一开始我还以为是控制风扇转速的,结果是个RGB控制......好吧,毕竟有了RGB性能提升400%!

正面接口依次是开关、性能模式切换、SD读卡器、USB4、俩USB-A 5G以及3.5mm耳麦接口,性能模式切换是基于EC的,不需要安装软件。SD读卡器是支持UHS-II的,实测300M的卡读取速度在这个读卡器上可以跑到240M左右,好评!!

另一侧是主出风口和侧进风口。

后置接口依次是锁孔、DC电源输入、3.5mm耳麦、2.5G有线网口、USB-A 5G、USB4、DP 1.4、HDMI 2.1FRL,以及两个USB-A 2.0。一共可以输出4个8K信号,也算是拉满了。

这个网口上的提示就非常的Win11了......

底部则是序列号和其他标签等等,螺丝都隐藏在脚垫下面。

两颗一边的是用来拆装内存那边的挡板,单颗螺丝是CPU这边的。

打开简单看一下,一边是SSD和WIFI网卡位置,无线网卡是RZ717,也就是MT7925,算是普及型的WIFI7网卡,SSD则预装了散热片,来自雷克沙的PCIE 4.0 X4的ARES 2TB,7GB/s的满速SSD,还有一个2280空余槽位。旁边是一个12025的RGB风扇,为CPU和内存从背面散热的同时还可以给SSD散热。


机器另一面非常像经典的NUC12蝰蛇峡谷的设计,就是两个离心扇吹着散热片的结构,散热能力妥妥的,不过考虑到EVO X2的定位,GMK还是选择了静音取向。


本来想继续拆下去看看CPU的,原机器上贴满了固定的胶带,拆后复原很麻烦......结果发现官网就有详尽的拆解视频,那就看这个好了!可以看到LPDDR5x内存是用242的布局围绕CPU的,由于集成度太高,主板上显得比较空旷,而CPU热量又比较集中,再加上原本是移动向的设计,因此实际散热能力一般,持续满载SPPT只有90W,比较可惜。

GMK EVO-X2其它性能测试
首先再次过一下锐龙AI MAX 395+的CPU规格:双CCD,每个CCD上是8个ZEN5核心,最高频率为5.15GHz,基础频率3GHz,标准TDP功耗是55W,实际EVO X2最高性能模式下给到了FPPT 140W,SPPT 120W,均衡则是120/85W,静音模式是80/54W。

CPU性能基本可以根据功耗推断出来,多核心性能大约在移动端120W的7945HX和9955HX之间,但是单核性能由于频率低了不少,基本和7945HX一个水平。


而iGPU性能相对有意思一点,作为Radeon 8000系的独苗显卡,这个Radeon 8060S应该算是最强集成显卡没有之一了,40CU的规模也相当大,而256bit LPDDR5x带来的显存带宽也让其达到了中端卡的水平,再加上几乎不受限的显存,跑分看起来不高,但是游戏性能综合起来性能大约有6700XT的水平,2K分辨率下可以60fps打游戏,实际上要不是集成显卡和CPU一起在抢那可怜的100W出头功耗,这个8060S的性能应该还可以更高的。
(这里GPUZ显示位宽错了,实际带宽要×2)



另外MAX 395里面这个NPU也非常强,是目前我见到跑Procyon这个AI子项里分数最高的,可惜的是目前虽然两家CPU里都有NPU,但是能用上NPU的应用少之又少,毕竟都有强力又好用的集成显卡,实在是没必要专门用NPU,也就是对续航有更高要求的移动平台能用上了。

最后再提一下功耗和噪音。不知道为什么AIDA64的FPU测试一点停止就死机,估计还是CPU太新了没有适配,因此这里简单文字描述一下吧:性能模式下EVO X2的峰值功耗可以到140W,大约持续2分钟左右,随后会根据负载和温度慢慢降到120-90W。风扇策略上GMK选择了静音取向,满载时CPU会顶着100摄氏度的温度上限跑,噪音在距离机器10cm处也只有43db左右,以其强大的性能表现来说非常安静了!而85W的平衡模式更是只有39db,这个模式跑大语言模型性能损失在10%左右,对于企业用户来说这个模式确实能耗比更高。静音模式就是真的静音了,环境噪声35db它满载37db,基本不可闻,但是54W的功耗也确实严重不够用,得不偿失。
总结:性价比极高的大语言模型部署神器
作为一款“无心插柳”的产品,GMK EVO X2这样的搭配锐龙AI MAX 395+以及大内存的机器,完全就是一款专门为了部署大语言模型而生的超高性价比工作站,而且还非常小巧静音节能!仅在部署大语言模型方面,它的性价比无人能敌——既然卖几万块的DGX Spark都敢自称桌面AI超级计算机,那能跑Windows的EVO X2,易用性更强更方便,还便宜,那必须是性价比更高的桌面AI超级计算机!
当然除此之外,本身锐龙AI MAX 395+(Strix Halo)的综合性能也非常不错,可惜的是原本为了移动平台设计的定位严重限制了其发挥,较低的单核频率和极低的功耗限制让其在大语言模型部署之外的表现就不那么亮眼了。
Strix Halo是一款潜力很大的芯片,目前刚刚上市,各OEM厂商对其的挖掘研究还不太透彻,相信假以时日,我们应该能够看到更多采用Strix Halo的优秀产品出现,助力用户更高效地开发部署属于我们自己的AI大语言模型。
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

太一Thaiyee
校验提示文案
zetax
校验提示文案
realfpe
校验提示文案
值友1327638975
校验提示文案
snorer
校验提示文案
值友1327638975
校验提示文案
snorer
校验提示文案
realfpe
校验提示文案
太一Thaiyee
校验提示文案
zetax
校验提示文案