谷歌发布 Gemma 4 开放模型:主打本地推理与 Agent 能力
谷歌正式发布 Gemma 4 开放模型系列,该系列基于 Gemini 3 架构,采用 Apache 2.0 许可证开源,旨在提供面向复杂推理与智能体工作流的本地化解决方案。Gemma 4 包含四种规格,涵盖从端侧设备到高性能工作场的不同需求,强调在保持高性能的同时实现数据隐私与低延迟。
| 模型版本 | 参数规模 | 架构特性 | 上下文窗口 | 适用场景 |
|---|---|---|---|---|
| Gemma 4 Effective 2B (E2B) | 约 20 亿激活参数 | 端侧优化 (PLE技术) | 128K | 移动设备、物联网、离线运行 |
| Gemma 4 Effective 4B (E4B) | 约 40 亿激活参数 | 端侧优化 (PLE技术) | 128K | 移动设备、物联网、离线运行 |
| Gemma 4 26B | 260 亿 (激活约 38 亿) | 混合专家 (MoE) 架构 | 256K | 本地 GPU 工作站、复杂推理 |
| Gemma 4 31B | 310 亿 | 稠密 (Dense) 架构 | 256K | 高级编程助手、IDE、Agent 工作流 |
Gemma 4 系列模型规格对比
01技术架构与性能提升
Gemma 4 在技术上实现了多项关键升级。所有模型均原生支持函数调用、结构化 JSON 输出及系统指令,能够直接驱动自主 Agent 执行多步骤任务规划,无需额外调整设计。在多模态能力方面,全系模型支持文本与图像输入(支持可变宽高比与分辨率),E2B 和 E4B 更是原生支持视频与音频输入。
- 推理能力增强
模型提供可配置的“思考”模式,在 Arena AI 文本排行榜中,31B Dense 版本位列全球开放模型第 3,26B MoE 版本位列第 6。 - 端侧部署优化
E2B 和 E4B 模型通过 PLE 技术提升参数利用效率,与高通、联发科等硬件厂商合作,可在手机及边缘设备上实现近零延迟运行。 - MoE 架构效率
26B 模型利用混合专家架构,推理时仅激活约 38 亿参数,在保证运行速度的同时维持大模型的知识储备。
02部署支持与获取方式
Gemma 4 提供了灵活的推理与微调路径,兼容主流硬件平台与开发框架。开发者可通过谷歌云 Vertex AI 直接访问,或在 Hugging Face、Kaggle、Ollama 等平台获取模型权重。Android 开发者可在 AICore Developer Preview 中试用智能体工作流。
- 推理与微调框架
支持 Hugging Face、LiteRT-LM、vLLM、llama.cpp、MLX、Ollama、NVIDIA NIM、LM Studio、Unsloth 等多种工具。 - 硬件兼容性
开箱支持 NVIDIA(从 Jetson Nano 到 Blackwell GPU)、AMD GPU(通过 ROCm 栈)以及 Google Cloud TPU。 - 云服务支持
可在 Vertex AI、Cloud Run、GKE、Sovereign Cloud 等环境进行云端部署。
需要注意的是,虽然 26B MoE 模型推理时激活参数较少,但为保证路由速度,全部 260 亿参数需载入内存,其实际显存需求接近稠密 26B 模型。此外,官方内存估算未包含运行框架、KV Cache 及微调带来的额外开销。部分用户反馈,Qwen3.5-27B 在某些测评中表现略优于 Gemma 4 31B,但业界普遍对 Gemma 4 全尺寸支持本地 Agent 运行的能力表示关注。
当前文章无评论,是时候发表评论了