曾被誉为大模型神器，AMD MAX395为何从火爆走向理性？

关于AMD AI Max+ 395在本地大模型领域的讨论热度似乎有所下降，但这并非因为其失去了价值，而是因为相关的讨论已经从“它能不能跑”的基础阶段，演变为对性能优化、软件生态和市场定位的深度剖析。

最初，AMD AI Max+ 395（及其PRO版本）的出现确实在本地AI社区引起了轰动。其最大的亮点是它将统一内存架构（UMA）带入了x86平台。这种架构允许CPU和集成GPU共享高达128GB的LPDDR5x高速内存，并且用户可以灵活地为GPU划拨海量“显存”（最高可达96GB）。这一特性直接打破了传统独立显卡（如RTX 4090/5090）的32GB显存瓶颈，让普通用户在本地运行百亿甚至千亿参数（如gpt-oss-120b、qwen3-235b）的大模型从不可能变为了可能。在当时，它被视为一个极具性价比的解决方案，让用户以远低于专业工作站的成本，获得运行超大模型的能力。

然而，随着时间的推移和用户实践的深入，大家对AI Max+ 395的认识也变得更加全面和客观，讨论的焦点随之转移到了以下几个方面：

首先是性能瓶颈问题。尽管拥有巨大的“显存”容量，但AI Max+ 395的绝对算力（TOPS/FLOPS）和内存带宽（约256GB/s）与高端独立显卡或NVIDIA的专业AI设备（如DGX Spark）相比仍有较大差距。这导致它在处理不同类型的AI任务时表现各异。对于推理任务，特别是每次只激活部分参数的混合专家（MoE）模型，AI Max+ 395能够提供流畅的体验，生成速度可以达到每秒数十个token。但对于需要更高绝对算力的稠密模型、模型微调（Fine-tuning）或图像生成这类计算密集型任务，它的表现就明显逊色于NVIDIA的同类产品，后者往往能实现2到3倍甚至更高的性能。

其次是软件生态的成熟度。AMD的ROCm软件栈在过去一年取得了显著进步，PyTorch等主流框架已提供官方支持，像Llama.cpp、Ollama、LM Studio等工具也对其进行了良好优化，使得部署和运行大模型变得比初期容易得多。然而，与NVIDIA经营近二十年的CUDA生态相比，ROCm在兼容性、稳定性和工具链完整性上仍有差距。用户有时仍需手动编译特定版本的库，或寻找社区提供的解决方案，这对于追求“开箱即用”体验的用户来说是一个不小的门槛。此外，其集成的NPU虽然拥有50 TOPS的算力，但目前能有效利用其性能的应用场景还非常有限。

再者是市场竞争环境的变化。一方面，AI Max+ 395系列产品本身定价不菲，加上高容量内存成本上涨，使得整机价格居高不下，限制了其普及。另一方面，竞争对手也在迎头赶上。苹果的M系列芯片凭借其成熟的统一内存架构和流畅的软件体验，早已占据了部分高端用户市场。英特尔也在其新一代酷睿Ultra处理器中引入了类似的内存共享技术，并计划在未来产品中大幅提升核显算力，这为用户提供了更多高性价比的选择。而对于追求极致性能的专业开发者，NVIDIA凭借其强大的CUDA生态和硬件性能，依然是难以撼动的首选。

是产品定位的模糊性。AI Max+ 395作为一个“全能选手”，性能强大，但似乎在每个细分领域都不是最优解。对于游戏玩家，它的性能虽强，但游戏体验和兼容性不如同价位的“CPU+独立显卡”组合；对于专业AI开发者，其软件生态和算力又不及NVIDIA。这使得它的目标用户群体相对聚焦于那些有明确“大显存”需求，主要进行大模型推理，同时又希望设备保持小体积、低功耗的AI爱好者和特定开发者。

现在大家较少提及“用AMD AI Max+ 395跑本地大模型”，并不是因为它过时了，而是因为社区已经度过了最初的探索期。讨论不再是关于“能不能”，而是深入到“好不好用”、“效率如何”以及“性价比高不高”的层面。它作为打破显存墙的先驱，已经成功在市场上开辟了一个独特的生态位，但同时也面临着性能、软件和激烈市场竞争的现实挑战。