Gemma4本地部署免费养龙虾!
谷歌正式发布了包含多个参数版本的本地开源大模型 Gemma 4。针对用户关于普通轻薄笔记本能否本地部署并流畅运行此类大模型的疑问,本次测试选取了具有代表性的 MacBook Air(M4 芯片)与联想小新 Pro 14 GT(酷睿 Ultra 5)两款设备,通过对比不同参数规模模型的 Token 输出速度,评估其在本地 AI 应用场景下的实际性能表现。
01测试环境与硬件配置
| 配置项 | MacBook Air | 联想小新 Pro 14 GT |
|---|---|---|
| 处理器 | Apple M4 芯片 | Intel Core Ultra 5 |
| 内存 | 16GB 统一内存 | 32GB 大内存 |
| 显卡 | 集成显卡 | 集成显卡(核显) |
| 硬盘 | 1TB SSD | 1TB SSD |
测试设备软硬件配置对比
02核心性能数据对比
本次测试主要衡量各模型在不同平台上的 Token 生成速度。通常认为,输出速度低于 10 tokens/s 的模型体验较差,不建议在该配置下作为主要生产力工具使用。
| 模型版本 | MacBook Air 速度 (tokens/s) | 联想小新 Pro 14 GT 速度 (tokens/s) | 体验评价 |
|---|---|---|---|
| Gemma 4 (4B) | 21.25 | 12.64 | Mac 体验流畅,Win 表现良好 |
| DeepSeek R1 (8B) | 16.74 | 7.8 | Mac 体验流畅,Win 较卡顿 |
| Qwen 3.5 (9B) | 8.8 | 5.9 | 双方体验均不佳 |
| Gemma 4 (26B) | 无法运行(显存溢出) | 11.45 | Mac 无法运行,Win 基本可用 |
不同参数模型在两台设备上的 Token 输出速度
03平台优劣势分析
不同平台表现分析
macOS 平台 (M4 芯片)
依靠统一内存架构展现优势
- 在中小参数模型(如 4B、8B)上速度优势显著
- Gemma 4 4B 模型速度比 Windows 快近一倍
- 受限于 16GB 内存,无法运行 26B 等大参数模型
Windows 平台 (Ultra 5 + 32GB RAM)
凭借大内存容量实现“逆袭”
- 中小模型运行速度普遍低于 macOS 平台
- 32GB 大内存成功运行 26B 重量级模型
- 在大模型部署上突破了轻薄本的物理瓶颈
评论 1