当前位置:
AIGC文章详情

Gemma下载破10亿刷屏:你的设备能跑哪一档,现在入坑值不值?

源自115位全网作者

11:01

8月20日,谷歌DeepMind公布了一个数字:Gemma系列开源模型的累计下载量突破10亿。36氪

从2024年2月首次上线算起,走到10亿用了两年半。这期间社区基于Gemma开放权重做出了超过10万个衍生变体,谷歌给这个生态起了个名字,叫“Gemmaverse”(Gemma宇宙)。知乎

但对想在自己设备上跑AI的人来说,我先给这个10亿泼一点冷水:模型被下载了多少次,跟你手里的设备能不能跑、跑起来好不好用,基本是两回事。真正值得琢磨的,是Gemma 4今年4月发布以来,全网实测攒下的那些真实答案——千元机、旗舰手机、树莓派、8GB显存的笔记本、Mac,各自能跑到什么程度,又有哪些人踩了坑。

这篇把散落在知乎、B站、微博、小红书和科技媒体里的实测与部署记录拢到一起,给你一张能直接对号入座的表。

先搞清楚:Gemma 4四档型号,各是给谁用的

今年4月2日凌晨,DeepMind CEO Demis Hassabis在X上发了四颗钻石表情,Gemma 4随后突袭发布,一共四个型号:

  • E2B(有效参数约2.3B)和E4B(有效参数约4.5B):面向手机和开发板,主打完全离线,这两档还额外支持原生音频输入;

  • 26B-A4B:MoE架构,总参数26B,但推理时只激活约4B,速度快,256K上下文;

  • 31B:稠密旗舰,在Arena AI文本榜上位列全球开源第三,用不到十分之一的参数量跟四百亿级巨无霸掰手腕。36氪

四档全系原生支持图像和视频输入,能做OCR和图表理解;小尺寸128K上下文,大尺寸256K;原生训练了140多种语言。

Gemma下载破10亿刷屏:你的设备能跑哪一档,现在入坑值不值?

不过这次真正该鼓掌的,是许可证换成了Apache 2.0。之前Gemma 3用的自定义协议被开发者抱怨了一整年:限制条款多、谷歌能单方面改规则,甚至有能被解读为“连你用Gemma生成的合成数据都要管”的条款。36氪这次换成Apache 2.0,无商业限制、不能随时改规则,对本地玩家来说,意味着可以放心用在任何项目里。

还有一个容易被忽略的门槛降低:谷歌上线了官方手机应用Google AI Edge Gallery,应用商店搜到后下载模型即用,全程离线、不用配置。机器之心本地大模型从“极客玩具”往“人人能装”迈了一步,这是这次10亿下载背后最实在的变化之一。

Gemma下载破10亿刷屏:你的设备能跑哪一档,现在入坑值不值?

全网实测:五档设备,五种命运

这一段是全文最值得看的。网上跑Gemma的视频很多,但大多在旗舰设备上完成;普通设备上的实测,完全是另一个故事。

千元安卓机:能跑,但别硬扛。雷科技用一台搭载天玑7400的千元机实测Gemma 4 E4B。让它推荐三部高铁上看的电影,近500字的回答跑了2.8分钟。雷科技一道多步逻辑推理题,3.3分钟后给出错误答案;再丢一张绿植照片,加载动画转了整整5分钟,期间App完全无法操作。稍微意外的是它不发烫、不算卡顿,简单问题也能答对。结论很直白:除非是彻底断网的场景,千元机上的本地模型打不过“直接问云端大模型”。

Gemma下载破10亿刷屏:你的设备能跑哪一档,现在入坑值不值?

旗舰手机:真能用。iPhone 17 Pro在苹果MLX框架加持下,跑Gemma 4小模型能超过40 token/秒。机器之心有人在三星Galaxy旗舰上开着思考模式跑出类似速度。X上那条“在iPhone本地跑Gemma 4”的帖子被围观了几十万次——处理图片、音频、开关手电筒,全程离线。128K的上下文,让小模型离线状态下也能干点正事。但要清醒:这是旗舰芯片的专属待遇,两三年前的中端机别抱太高期望。

树莓派5:玩具属性拉满,坑在明处。有人把谷歌官方的gemma-translator项目部署在树莓派5(8GB)上,就是一个USB麦克风、一个蓝牙音箱加一块开发板的组合,能成为一台完全离线的中英双向同传机。知乎模型本体只有2.59GB,支持六种语言。

但部署实录里记录了三个差点劝退的坑。第一,5V/3A电源扛不住满载外设,电压一抖文件系统就开始写坏数据,各种“玄学错误”全来了,换27W的5V/5A才解决。知乎第二,树莓派直连Hugging Face下模型总断,用电脑中转稳得多;第三,新版系统的音频走PipeWire,直接操作ALSA会找不到蓝牙音箱。想玩可以,但请预留至少一个下午。

8GB显存笔记本:e4b是惊喜,12b是陷阱。有人在RTX 4060 Laptop(8GB显存)上把四个模型挨个跑了一轮:gemma4:e4b做图像理解约56 token/秒,能识别图里的人物、屏幕、代码界面,属于日常可用。知乎gemma4:12b描述更细,但一张图要40多秒,冷启动明显,只适合偶尔调用。这位作者最后的结论特别值得抄作业:别纠结“哪个模型最强”,做路由——中文文字任务留给qwen3:8b,图像理解交给gemma4:e4b,各干各的擅长项。

M芯片Mac及以上:26B MoE聊天很顺,当Agent会翻车。有开发者在M5 Pro的MacBook Pro上跑Gemma 4 26B MoE,对话、代码解释都很流畅;但真把它当coding agent,需要长上下文、复杂工具调用和稳定结构化输出时,频繁卡住、报错,换同环境的qwen3-coder就一切正常。机器之心也就是说,本地大模型在“聊天”场景已经站住了,“干活”场景还不能把后背完全交给它。

另一个极端在数据中心:8月底英伟达宣布Groq 3LPX推理加速器全面投产,跑Gemma 4 31B在10万token上下文下能输出3400 token/秒。微博这跟普通人没关系,但说明Gemma已经成了推理硬件评测的标杆模型之一。

10亿下载真正的意义:不是一个模型,是一个生态

回到新闻本身。10亿下载为什么值得看?不是数字大,而是它说明Gemma已经成了大量垂直场景的“底座”。10万个衍生变体里,有几个相当魔幻:NASA喷气推进实验室把Gemma 3 4B量化到4-bit,塞进近地轨道卫星,实时分析星载传感器拍到的地球影像,决定哪些数据值得消耗下行带宽传回地面——这是视觉语言模型首次在轨道上处理卫星自有传感器的图像。知乎DolphinGemma直接接收海豚的声学信号,分析其中的模式序列,尝试预测“下一声海豚叫会是什么”;印度国家卫生局则把Gemma 4集成进一款下载量过亿的App,专门把复杂的医疗报告转成标准化数据。

其中步子迈得最大的,是抗癌研究方向。耶鲁大学和谷歌团队基于Gemma做了一个27B模型C2S-Scale,把单细胞测序数据“写”成由基因名组成的句子,再让模型在4000多种候选药物里做虚拟筛选。知乎最终选出的silmitasertib在活细胞实验中被验证能将抗原呈递提升约50%,为癌症免疫治疗研究提供了新思路。36氪

Gemma下载破10亿刷屏:你的设备能跑哪一档,现在入坑值不值?

再加上做医疗影像的MedGemma、做手语翻译的SignGemma,以及7月开源的官方翻译模型TranslateGemma(4B/12B/27B三档、支持55种语言,12B的翻译能力超过上一代27B)——对隐私党和小语种需求来说,本地跑官方翻译模型是个实打实的好消息。知乎

对普通用户,这意味着:你想用本地AI干的活,大概率不用从零开始了。Gemma生态里多半已经有微调好的变体,配套工具链也有足够多的人帮你踩过坑、写过教程。这才是10亿下载堆出来的真正护城河。

避坑清单与入坑建议

最后给结论。现在适合谁入坑、怎么入:

  1. 不要为了模型买硬件。如果你手头没有8GB显存的笔记本、Mac或开发板,不建议专门花钱去“体验本地大模型”——云端API现在更便宜也更强。本地模型的价值场景是隐私、离线、免费和折腾的乐趣。

  2. 手机端从E4B开始。用近两年旗舰机的话,先装Google AI Edge Gallery试试官方App,零成本零配置;千元机用户可以直接跳过这一节。

  3. 电脑端最稳的入门姿势是gemma4:e4b。Ollama一条命令拉下来;中文文字需求多的话再配一个qwen3:8b,按任务路由。别把12b放进日常工作流,除非你能接受每次等40秒以上。

  4. 别指望它替你写Agent。目前的实测显示,Gemma 4在工具调用和结构化输出上有明显短板,这类活请交给专门的编码模型。

  5. 值得继续盯的信号:7月Gemma 4曾迎来一次推理速度大幅提升、修复输出“偷懒”问题的更新,端侧优化(与高通、联发科的合作)和翻译模型生态还在推进。等后续出现针对你设备的具体玩法再动手,也不迟。

10亿下载说明一件事:AI正在从云端聊天框,走进手机、开发板、卫星和医疗App。至于要不要在你的设备上给它留一个位置——先对照上面那张实测表,再决定。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章