什么值得买App下载 App ›
连续签到专享现金活动

巴掌大主机能跑2000亿参数大模型,AMD这款AI开发平台让英伟达和苹果都坐不住了

一台15厘米见方的迷你主机,居然能在本地跑2000亿参数的大模型——AMD最近把这事儿变成了现实。锐龙AI Halo于2026年7月正式发售,定价3999美元(约合27000元人民币),打着"开箱即用AI开发平台"的旗号,直指英伟达DGX Spark和苹果Mac Mini的市场。这台设备到底是AI开发者的省心之选,还是为溢价买单的"智商税"?先来看它实际塞进了什么东西。16核Zen 5处理器、40个RDNA 3.5计算单元的核显、50 TOPS算力的NPU,以及128GB统一内存——这些配置加在一起,让它在120W功耗下就能本地运行千亿级参数模型,体积却不到1升。123
2000亿参数大模型能跑,硬件配置到底什么水平
锐龙AI Halo的核心卖点是128GB LPDDR5X-8000统一内存,CPU、GPU、NPU共享同一内存池,GPU最多可划走96GB当显存使用。这个数字意味着什么?RTX 4090显存才24GB,RTX 5090也就32GB,一台迷你主机的可用显存直接碾压消费级旗舰显卡。受益于统一内存架构,数据不需要在芯片间来回搬运,省去了传统PC那种显存不够就得拆模型、依赖云端的麻烦。配合2TB PCIe Gen4 SSD,存储和内存都拉到了够用的水平。跑千亿参数模型不需要云端,不需要外接显卡,一台巴掌大的盒子自己搞定——这对需要本地调试大模型、又不想折腾硬件兼容性的开发者来说,确实是个痛点。456
性能实测方面,AMD官方给出的数据是在GLM 4.7上比DGX Spark快14%,在Qwen 3.5 122B上快12%,在GPT-OSS 120B上快7%。这些数字看着不错,但需要注意测试场景和模型量化条件。更关键的是,苹果Mac Studio凭借546GB/s的统一内存带宽,在token生成速度上仍然领先AMD约2-3倍。AMD这边256GB/s的带宽对上苹果确实显得寒碜,这是统一内存架构上的先天差距。不过AMD能跑的模型参数量更大——Mac Mini M4 Pro最高只支持100B参数模型,而锐龙AI Halo可以跑满200B,这个差距在实际使用中能否弥补带宽劣势,就看具体任务需求了。789
4000美元花在哪了:跟DGX Spark和Mac Mini怎么选
对比同档次的桌面AI开发设备,锐龙AI Halo最直接的竞争对手是NVIDIA DGX Spark(4679美元)和苹果Mac Mini M4 Pro。DGX Spark的优势在于CUDA生态的统治力——在数据中心跑的训练代码,无需修改就能在本地微调和验证,云端到桌面的工作流切换无缝。AMD这边则打的是ROCm生态的入门券,同时提供Linux和Windows双系统,这在NVIDIA那边做不到——DGX Spark只支持Linux。对于依赖传统Windows生产力工具的团队,这个差异会直接影响选型。101112
价格方面,AMD比DGX Spark便宜约700美元,但第三方厂商已经推出配置相近的替代品。极摩客EVO-X2配备128GB内存、2TB固态,售价仅3299美元,比AMD官方方案便宜600美元。这类第三方产品硬件参数相当,但软件预装和官方技术支持不如AMD原厂完善。选原厂还是选第三方,本质上是买硬件还是买"省心"的区别——AMD卖的不是单纯算力,而是经过验证的配置和售后兜底。313
至于苹果阵营,Mac Studio的统一内存带宽依然是业界最强,适合已经在苹果生态里、追求极致推理速度的开发者。但Mac Mini无法运行120B以上的模型,而锐龙AI Halo可以跑到200B。如果你的工作流需要跑参数量更大的模型,或者必须用Windows/Linux开发环境,AMD的机器就成了唯一选择。149
软件生态省不省心:开箱即用到底是真是假
锐龙AI Halo真正值钱的地方,不在硬件参数,而在出厂预装的AI开发者中心和ROCm软件栈。AMD官方做了"最佳已知配置"(BKC)验证,确保所有软件包、驱动、工具链兼容性,用户不需要自己爬依赖地狱。内置的5份"AI Playbooks"提供手把手教程,从安装LM Studio跑本地大模型,到用PyTorch微调模型,4-5步就能跑起来。AMD承诺每月更新Playbook并推出新教程,代码全部开源在GitHub上。415
平台已针对PyTorch、vLLM、llama.cpp、ComfyUI、LM Studio等主流AI框架完成优化,支持Ollama、LoRA、QLoRA等工作流。开箱后进入控制面板,管理软件安装、系统更新、显存分配,几分钟就能生成第一个token——这是AMD官方宣传的核心卖点,也是和第三方厂商硬件最本质的区别。当然,有用户反馈部分Playbook目前仍有bug,GitHub issues里有人报告了问题,生态成熟度还需要时间验证。41617
值得注意的一个亮点是NPU终于派上用场了。过去NPU常常沦为摆设,实际推理全在CPU或GPU上跑。在锐龙AI Halo上,用AMD的Lemonade工具可以成功在XDNA 2 NPU上跑gpt-oss-20b模型,功耗仅35W,生成速度20 token/s。NPU的意义不在于极限性能,而在于能效比——让CPU和GPU腾出来干重活,传感器数据和轻量推理交给NPU处理,这是AI开发者新的优化维度。4
值不值这4000美元:哪些人买了不亏
AMD自己算过一笔账:每天处理约600万token的工作量,放到云端每月需要750美元。用锐龙AI Halo本地部署,只需要付电费(约16美元/月),几个月就能收回硬件成本。按三年使用周期算,总花费约4500-4600美元,而相同工作负载的云服务费用超过2.5万美元。这个算法看起来诱人,但前提是你的业务真的需要持续高强度的本地推理,且不存在云端更合适的场景。119
从用户反馈来看,买这台机器的人主要分两类。一类是需要本地运行大参数MoE模型、又不想折腾硬件兼容性的开发者——对他们来说,这是一台昂贵但省心的"实验台"。另一类是数据隐私敏感、必须本地处理的项目——模型和数据不离开设备,没有云端传输的风险,这对企业级用户很有吸引力。至于普通消费者或轻度AI爱好者,同价位的云端算力租用、或者干脆用游戏显卡DIY方案,性价比都更合理。71819
还有一个变量是2026年第三季度的升级版。AMD预告将推出搭载锐龙AI Max+ PRO 495的新平台,统一内存提升至192GB(最多160GB可分配为显存),NPU算力升至55 TOPS,将在本地运行3000亿参数大模型。如果现在不急着入手,等升级版上市后再做选择也是一种策略——但对于需要立刻开工的开发者,早买早用和等新一代之间没有标准答案,取决于项目的时间窗口。920
总结下来,锐龙AI Halo的核心价值不在于性能碾压,而在于"确定性"和"省心"。x86架构、 Windows+Linux双系统、预验证的软件栈,这些东西加起来,AMD卖的是减少折腾时间、降低环境配置风险的选择权。跟DGX Spark比,它便宜、灵活;跟Mac Studio比,它能跑更大的模型;跟第三方方案比,它有官方兜底。代价是——价格不便宜,且性能没有做到同价位最强。如果你恰好是需要本地跑大模型、不想被苹果生态锁住、也不愿意自己从头搭环境的开发者,这台机器可能是目前最接近"一步到位"的选项。71021

评论

评论区空态插画

当前文章无评论,是时候发表评论了