什么值得买App下载 App ›
连续签到专享现金活动

Google Gemma 4 上线:如何在 iPhone 上实现 40 tokens/s 的本地推理

2026 年 4 月 2 日,Google DeepMind 发布了开源多模态大模型系列 Gemma 4。该系列模型与 Gemini 3 共享底层技术,旨在覆盖从移动端到服务器端的全场景需求。其核心亮点在于能够直接在 iPhone 设备上本地运行,无需联网、API Key 或付费购买 Token,通过苹果的 MLX 机器学习框架优化,实测推理速度可超过 40 token/秒。
型号有效参数下载包大小适用场景
Gemma E2B2.3B约 2.5GB手机端、IoT 设备、内存较少设备
Gemma E4B4.5B约 3.6GB笔记本、iPhone 15 Pro及以上、快速推理
Gemma 26B A26B-代码生成、RAG
Gemma 31B31B-服务器端最高性能

Gemma 4 系列模型参数与适用场景对比

对于 iPhone 用户,Gemma 4 提供了 E2B 和 E4B 两个版本。两者的上下文窗口均达到 128K,是上一代 Gemma 3 的 4 倍,能够处理整本书籍总结或中型项目代码分析等任务。模型支持原生多模态处理,覆盖文本、图像、音频及全球 140 多种语言。本地运行模式确保了对话数据不上传云端,隐私安全性高,且响应延迟比云端模型低一个数量级。
01官方 App 部署流程
  1. 下载应用
    在 App Store 搜索并下载 "Google AI Edge Gallery",该应用支持 iOS 与 Android,完全免费。
  2. 选择功能模式
    打开 App 后,可选择 AI Chat(含 Thinking Mode)、Ask Image(图像分析)、Audio Scribe(语音转录翻译)或 Agent Skills(工具调用演示)。
  3. 下载模型
    在 Models 选项卡中下载 Gemma 4 E2B 或 E4B 版本。E2B 适合内存较少或追求流畅运行的设备;E4B 适合 iPhone 15 Pro 及以上追求更高性能的设备。
  4. 本地运行
    下载完成后即可断网使用,无需注册账号或 API 密钥。建议首次运行先尝试 E2B 版本。
02实测性能与功能表现
在 iPhone 17 Pro Max 上的实测显示,E2B 模型响应迅速,几乎无延迟。在 iPhone 17 Pro 上,借助苹果芯片和 MLX 框架优化,推理速度可超过 40 token/秒,优于大多数云端 API 的首字生成速度。功能方面,除基础聊天外,模型还能完成 Python 脚本编写、上下文理解及错误检查。Agent Skills 集成了 8 个交互小部件,涵盖密码生成、维基百科查询及二维码生成等实用工具。
尽管性能表现亮眼,但当前版本仍存在一定局限性。E4B 模型在内存较小的设备上运行可能出现卡顿或发热;处理复杂的 Coding Agent 任务时偶发卡顿或报错;此外,App 目前不支持保存对话记录,关闭后上下文即清零。若设备发热明显,建议暂停使用以降温。

评论

评论区空态插画

当前文章无评论,是时候发表评论了