苹果公布 M5 芯片最新评测数据：LLM 与图像生成性能全面提升

11 月 19 日，苹果机器学习研究博客公开 M5 芯片的最新性能评估数据，重点展示其在本地大语言模型（LLM）推理中的突破性提升。本次评测基于苹果推出的开源框架 MLX，该框架专为 Apple Silicon 打造，利用统一内存架构让模型能在 CPU 与 GPU 间高效协作。

在核心的文本生成测试中，苹果使用 MLX LM 工具包对多款主流开源模型进行基准测试，包括不同规模的 Qwen3 系列与 GPT OSS 系列。结果显示，相比上一代 M4，M5 在生成后续文本 token 时实现了 19% 至 27% 的速度提升。苹果指出，这主要归功于 M5 更高的 153GB/s 内存带宽，较 M4 的 120GB/s 提升了 28%。由于 LLM 推理的首个 token 主要受计算性能限制，而后续 token 受内存速度影响更大，带宽提升对整体生成速度至关重要。

苹果进一步展示了多款模型的具体性能数据，包括 Qwen3-1.7B、8B、14B、30B 等不同规模版本，在不同精度（bf16、4bit）下的首 token 和后续 token 生成速度，以及对应的内存占用。例如，Qwen3-30B-4bit 在 M5 上依旧保持 1.25 tokens/s 的后续生成速度，并能将内存需求控制在 18GB 内，使得配备 24GB 内存的 MacBook Pro 足以运行 300 亿参数的 MoE 模型。

除了文本生成，M5 在图像生成方面的提升更为显著。新一代 GPU 内集成了专门用于高密度矩阵运算的神经加速器，使得 M5 在图像生成任务中的速度达到 M4 的 3.8 倍以上。这意味着未来在基于扩散模型的图像应用中，无论是创意设计还是视觉内容生成，搭载 M5 的 Mac 设备都将提供显著更流畅的体验。