游戏手机跑32B大模型！ | Qwen3 | 红魔11 Pro+ | 骁龙8至尊Gen5 | 天玑9500有惊喜 | MNN

本文通过实测24GB内存手机纯内存运行32B大模型，揭示了当前顶级手机芯片在端侧AI领域的真实性能天花板，并探讨了其背后的技术瓶颈与未来实用价值。

智能速览

24GB运存的骁龙8至尊Gen5手机成功硬跑32B大模型，解码速度达3.6 tok/s。
天玑9500在运行同参数模型时，预填充速度表现强劲，得益于全大核架构。
32B量化模型压缩后仍高达18GB，已触及目前手机硬件能力的极限。
开启高性能散热模式对生成速度提升有限，或因资源分配偏向CPU。
现阶段对普通用户无实用价值，但轻量级模型可作为无网环境助理。
上游内存价格上涨，可能成为阻碍大内存手机和端侧AI普及的因素。

精华内容

在手机上纯内存运行32B大模型，曾是难以想象的场景。如今，通过硬件升级与模型量化，这一极限正被不断探索和突破。

骁龙8至尊极限测试

使用配备24GB运存和骁龙8至尊Gen5的红魔11 Pro+手机，对量化后的Qwen3-32B大模型进行了纯内存运行测试。该模型压缩后体积依然高达18.22GB，对硬件提出了极高要求。在MNN框架开启“内存充足模式”并配合手机“觉醒模式”激活散热系统后，实测预填充速度为12.7 tokens/s，解码速度为3.6 tokens/s。这一结果表明，尽管速度不快，但顶级硬件已能成功驾驭这一参数规模的本地大模型，触及了当前手机能力的极限。

天玑9500的亮眼表现

在对比测试中，搭载天玑9500的16GB内存设备运行14B参数的Qwen3模型时，展现出了惊人的预填充能力。其性能表现甚至优于部分同级别竞品，这一结果令人惊喜。这主要归功于天玑9500采用的全大核CPU架构，使其在处理这类高负载任务时能爆发出强大的瞬时算力。此外，其内置的GPU对OpenCL接口提供了更开放的底层支持，也可能为AI任务的加速提供了额外助力。

性能瓶颈与散热谜题

测试中发现一个有趣现象：即便在开启“破坏神”模式并外挂强力散热的情况下，模型的生成速度并未获得显著提升。分析认为，这可能是因为“破坏神”模式优先保障了CPU的全频运行，导致分配给GPU进行AI计算的资源反而减少。这揭示了在当前架构下，单纯提升散热并不能线性地带来AI性能的增长，系统级的资源调度策略成为了新的瓶颈。

端侧AI的现实价值

对于普通用户而言，在手机上运行32B这样的大模型确实缺乏实用价值。然而，这并不意味着端侧AI毫无意义。如果退一步，安装7B或8B左右的轻量级模型，它们在手机上运行将更为流畅。在高铁、深山等完全没有网络信号的极端环境下，这样的本地AI助手完全可以作为应急工具，提供基础的翻译、信息查询等服务，展现出独特的应用场景。

普及之路的阻碍

目前，端侧AI的发展正面临一个现实的矛盾：AI赛道内卷激烈，对硬件性能尤其是内存容量的需求不断提升，但上游内存价格也因此被大幅拉升。这导致大内存手机的选择越来越少，价格却越来越贵，无形中减缓了端侧AI向大众普及的步伐。硬件成本的上升与生态成熟度之间的矛盾，是当前亟待解决的问题。

本次实测揭示了手机端侧AI已迈过“能否运行”的门槛，正向“如何用好”的阶段迈进。尽管面临成本、功耗等挑战，但硬件与算法的协同进化，预示着一个更智能、更私密的个人助理时代或许并不遥远。