什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

谷歌发布 Gemma 4 开放模型:主打本地推理与 Agent 能力

谷歌正式发布 Gemma 4 开放模型系列,该系列基于 Gemini 3 架构,采用 Apache 2.0 许可证开源,旨在提供面向复杂推理与智能体工作流的本地化解决方案。Gemma 4 包含四种规格,涵盖从端侧设备到高性能工作场的不同需求,强调在保持高性能的同时实现数据隐私与低延迟。
模型版本参数规模架构特性上下文窗口适用场景
Gemma 4 Effective 2B (E2B)约 20 亿激活参数端侧优化 (PLE技术)128K移动设备、物联网、离线运行
Gemma 4 Effective 4B (E4B)约 40 亿激活参数端侧优化 (PLE技术)128K移动设备、物联网、离线运行
Gemma 4 26B260 亿 (激活约 38 亿)混合专家 (MoE) 架构256K本地 GPU 工作站、复杂推理
Gemma 4 31B310 亿稠密 (Dense) 架构256K高级编程助手、IDE、Agent 工作流

Gemma 4 系列模型规格对比

01技术架构与性能提升
Gemma 4 在技术上实现了多项关键升级。所有模型均原生支持函数调用、结构化 JSON 输出及系统指令,能够直接驱动自主 Agent 执行多步骤任务规划,无需额外调整设计。在多模态能力方面,全系模型支持文本与图像输入(支持可变宽高比与分辨率),E2B 和 E4B 更是原生支持视频与音频输入。
  1. 推理能力增强
    模型提供可配置的“思考”模式,在 Arena AI 文本排行榜中,31B Dense 版本位列全球开放模型第 3,26B MoE 版本位列第 6。
  2. 端侧部署优化
    E2B 和 E4B 模型通过 PLE 技术提升参数利用效率,与高通、联发科等硬件厂商合作,可在手机及边缘设备上实现近零延迟运行。
  3. MoE 架构效率
    26B 模型利用混合专家架构,推理时仅激活约 38 亿参数,在保证运行速度的同时维持大模型的知识储备。
02部署支持与获取方式
Gemma 4 提供了灵活的推理与微调路径,兼容主流硬件平台与开发框架。开发者可通过谷歌云 Vertex AI 直接访问,或在 Hugging Face、Kaggle、Ollama 等平台获取模型权重。Android 开发者可在 AICore Developer Preview 中试用智能体工作流。
  • 推理与微调框架
    支持 Hugging Face、LiteRT-LM、vLLM、llama.cpp、MLX、Ollama、NVIDIA NIM、LM Studio、Unsloth 等多种工具。
  • 硬件兼容性
    开箱支持 NVIDIA(从 Jetson Nano 到 Blackwell GPU)、AMD GPU(通过 ROCm 栈)以及 Google Cloud TPU。
  • 云服务支持
    可在 Vertex AI、Cloud Run、GKE、Sovereign Cloud 等环境进行云端部署。
需要注意的是,虽然 26B MoE 模型推理时激活参数较少,但为保证路由速度,全部 260 亿参数需载入内存,其实际显存需求接近稠密 26B 模型。此外,官方内存估算未包含运行框架、KV Cache 及微调带来的额外开销。部分用户反馈,Qwen3.5-27B 在某些测评中表现略优于 Gemma 4 31B,但业界普遍对 Gemma 4 全尺寸支持本地 Agent 运行的能力表示关注。

评论

评论区空态插画

当前文章无评论,是时候发表评论了