Ollama 0.20.3 更新快报
Ollama 在近期更新频繁,从 4 月 2 日至 4 月 7 日的五天内连续推出了四个版本(0.20.0 至 0.20.3)。此次更新的核心重点在于对 Google Gemma 4 模型的全规格支持,包括底层分词器的适配、工具调用的修复以及 Flash Attention 性能优化。同时,桌面 App 交互细节得到改进,且针对苹果 M 系列芯片的性能优化已在预览版中预告。
010.20.0 版本:Gemma 4 核心支持
0.20.0 版本引入了对 Google Gemma 4 模型的完整支持,覆盖了从轻量级到密集型的四个不同规格,以适应不同硬件配置的运行环境。
| 模型规格 | 技术类型 | 适用场景 |
|---|---|---|
| 1.2B / 1.4B | - | 笔记本及配置一般的个人 PC |
| 2.6B | MoE 混合专家 | 显存或内存容量较大的环境 |
| 3.1B | 纯密集版本 | 计算资源充沛的用户尝试 |
Gemma 4 模型规格对照
为确保 Gemma 4 的顺利运行,Ollama 底层补全了 SentencePiece BPE 分词器支持,并修复了 MLX 后端下 Tokenizer 配置不生效的问题。
020.20.1 - 0.20.3 版本迭代
- 2024年04月07日
- 2024年04月04日
- 2024年04月03日
030.20.4 预览版前瞻
目前 0.20.4 版本已进入 RC2 阶段,预计将很快正式发布。该版本最显著的更新是针对苹果 M 系列芯片的性能优化。通过引入 NAX 技术,M 设备的推理速度将得到提升。同时,Gemma 4 在 MLX 路径上的 Flash Attention 支持也已补全,M 系列芯片用户将能完整体验到此次优化。此外,新版本清理了 ollama create 命令,修复了从已有 SafeTensor 模型创建时的问题。
当前文章无评论,是时候发表评论了