探索手机本地运行大模型的能力边界，通过搭载24GB内存和骁龙8至尊版Gen5的游戏手机，成功运行了量化后的32B大模型。这不仅是一次硬核性能测试，更揭示了当前移动端AI算力的真实水平与挑战，并意外发现天玑9500在同参数模型下的亮眼表现。
智能速览
搭载24GB内存的骁龙8至尊版Gen5手机，成功在纯内存模式下运行了32B大模型。
实测32B模型预填充速度为12.7 tokens/s，解码速度为3.6 tokens/s。
对比测试发现，天玑9500在运行同参数模型时，预填充能力表现出色。
现阶段在手机上运行32B模型实用性有限，但为无网环境应用提供了想象空间。
目前大内存手机选择变少且价格更高，阻碍了端侧AI的普及。
精华内容
这次硬核测试旨在摸清当前旗舰手机的AI算力极限，看看移动芯片在处理庞大参数模型时究竟表现如何，数据背后又揭示了什么。
骁龙8至尊版极限挑战
测试主角是搭载了24GB运存和骁龙8至尊版Gen5的游戏手机，目标是在纯内存模式下运行量化后的Qwen3 32B大模型。这个模型压缩后体积仍高达18GB，对24GB内存构成了极大压力。实测在开启内存充足模式和手机高性能风扇后，模型的预填充速度达到了12.7 tokens/s，解码速度为3.6 tokens/s。
虽然速度不算快，但意味着一个32B参数的庞大模型确实在手机上独立运行了起来，验证了硬件的可能性。实际对话体验速度会因上下文处理而稍慢一些，但“能跑起来”本身就是一次突破。
天玑9500的意外惊喜
在对比测试中，天玑9500平台的表现带来了惊喜。在另一台16GB内存的手机上运行同参数的14B模型时，天玑9500展现出了非常强悍的预填充能力，速度表现优异。
分析认为，这主要得益于其全大核架构带来的强大瞬间爆发力，以及这一代GPU对OpenCL接口更为开放的底层支持。这表明在特定AI负载下，不同芯片架构的设计思路会带来性能上的显著差异，天玑9500在算力调度上展现出独特优势。
实用价值与硬件瓶颈
回归现实，在手机上运行32B模型现阶段对普通用户确实没有太大实用价值，更像是一次极限压力测试。但这个探索并非毫无意义，如果能退一步，在手机上部署一个7B左右的轻量级模型，那么在高铁、深山等完全没有网络信号的极端环境下，它就能成为一个非常可靠的随身智能助理。
然而，一个现实的阻碍摆在面前：在端侧AI爆发前夜，市场上大内存手机的选择反而变少了，价格也更为昂贵。上游内存成本的增加，正在无形中减慢手机本地AI普及的进程。
本次测试不仅是对硬件极限的探索，也让我们看到了端侧AI发展的潜力与阻碍。随着技术迭代，手机本地大模型的应用场景将愈发丰富，但高昂的硬件成本问题又该如何解决？这或许是未来需要共同面对的课题。
