Ollama v0.30.0 内核切换指南：是否需要重装？模型配置如何迁移？
06-05 12:57
精选参考来源
新浪微博 2026-03-06
知乎 2026-02-01
来源
精选参考来源
1. 【跑本地模型，换个工具性能提升30%】快速导读：一篇在技术圈引起热议的帖子，揭示了一个普遍的误解：很多人以为自己电脑跑本地大模型卡顿是硬件不行，但大量一线玩家的真实经验是，仅仅把启动器从流行的Ollama换成更底层的llama.cpp，性能就能白拿30%以上的提升。你以为的硬件瓶颈，很可能只是工具瓶颈。---一个用户说，他起初用Ollama跑模型，体验很差，让他一度确信“我的电脑根本带不动更大的模型”——直到他换用llama.cpp，发现性能暴涨，原来电脑完全跑得动。这几乎是每个折腾本地模型的玩家都会经历的“旅程”。你以为在自己的MacBook或Windows笔记本上跑个9B（90亿参数）的模型，速度慢、响应迟钝是正常的，毕竟硬件有限。其实，一个正在被越来越多资深玩家确认的事实是：Ollama为了提供极致的便利性，牺牲了部分性能。它像一个精装修的样板间，拎包入住，但承重墙不是最优的。而llama.cpp是那个毛坯房，需要自己动手，却能挖出硬件的全部潜力。讨论中，不止一位用户报告，从Ollama切换到llama.cpp后，同一个模型、同一台机器，性能直接提升了30%。这个差异的背后，是封装带来的开销。Ollama本质上是在llama.cpp外面套了一层壳，负责模型管理、API服务等。这层“中间商”在带来便利的同时，也吃掉了性能。对于那些只想快速体验的用户，Ollama依然是最佳选择。但如果你开始严肃地将本地模型用于实际工作流——比如像原帖作者那样，用它来驱动一个自动化Agent系统处理文件、调用工具——那30%的性能就不是小事了。它决定了你的Agent是“可用”还是“好用”。一个有趣的现象是，许多人正是在Ollama上碰壁，才最终转向llama.cpp，并惊讶地发现自己的机器原来这么能打。所以，如果你也觉得自己的电脑跑本地模型力不从心，甚至因此放弃了尝试更大、更强的模型。不妨先问自己一个问题：限制你的，真的是那块显卡或那点内存吗？还是那个你以为最方便的工具？---简评：这再次验证了一个反直觉的道理：在任何前沿领域，最流行、最易上手的工具，往往不是性能最好的那个。它为你降低了入门门槛，但也悄悄给你设置了认知天花板。真正的“信息差”优势，往往藏在那些需要你多折腾一步的选项里。---ref: www.reddit.com/r/LocalLLaMA/comments/1rll349/ran_qwen_35_9b_on_m1_pro_16gb_as_an_actual_agent#AI创造营##人工智能#
新浪微博 2026-03-06 00:00:00
2. Claude Code 怎么接入本地的Ollama部署的模型？
知乎 2026-02-01 00:00:00
3. OpenClaw在国内AI圈突然爆火。 同时很多人都在讨论一个问题：如果有一天，互联网上大量账号其实都是AI在说话，会发生什么？#红衣聊AI #大有学问 #AI龙虾 #OpenClaw
抖音 2026-03-11 00:00:00
4. 搭建 Ollama 本地模型，让 Hermes 拥有"备用大脑"
知乎 2026-04-21 00:00:00
5. 回复@三省吾身丶丶:这不是你的问题，昨天有人愤怒地给 ollama 提了一个 issues：Massive difference in speed between Ollama and llama.cpp with qwen3.5:35b!//@三省吾身丶丶:为什么我的 4090 + 64g 这个模型 ollama 只能跑到 20 tokens/s ，一直不知道是哪配置没对
新浪微博 2026-03-16 00:00:00
6. Ollama 官方消息：Ollama 0.19 开始使用苹果的 MLX 作为后端，所以能更好地利用统一内存和 GPU 加速，在有 32G 内存的 M5 系列设备上运行 int4 量化的 Qwen3.5-35B-A3B 可以实现预填充 1851 token/s，生成 134 token/s。 tombkeeper的微博视频
新浪微博 2026-04-01 00:00:00
7. 前面讲的用 6G 显存的 GTX 1660 Ti 跑 Qwen3.5-35B-A3B-Q4_K_M.gguf 速度能达到 21 t/s ~ 25 t/s 的这个实验（网页链接），有人问是不是用这个机器跑别的模型也可以。首先，并不能因为 35B 的 Qwen3.5-35B-A3B 在这个机器上能跑，所以认为 27B 的 Qwen3.5-27B 肯定也可以。实际上即使 Qwen3.5-9B 跑起来也很慢，只有 6 t/s。这主要是因为 Qwen3.5-35B-A3B 是 MoE 模型，激活参数只有 3B。也就是说，对显存较小机器来说，Qwen3.5-35B-A3B 是 Qwen3.5 系列中最适合的。另外，总参数 30B 激活参数 3B 的 GLM-4.7-Flash-Q4_K_M 也量化到 Q4，同样用 llama.cpp 在这台机器上的速度大约 13 t/s。Qwen3.5 的速度更快可能和它用了混合注意力设计、软件优化更好等因素等有关。所以，不仅在 Qwen3.5 系列中，而是在当前所有模型中，Qwen3.5-35B-A3B 可能都是小显存机器跑大模型的最优解。如果你有类似硬件，想体验一下，但对技术了解不多，可以参考下面的最简化尝试步骤（假设你的操作系统是 Windows）：1、下载 llama.cppgithub.com/ggml-org/llama.cpp/releases/download/b8352/llama-b8352-bin-win-cuda-12.4-x64.zipgithub.com/ggml-org/llama.cpp/releases/download/b8352/cudart-llama-bin-win-cuda-12.4-x64.zip把两个压缩包解开，文件放进同一个目录。假设该目录名字是 llama。2、下载 Qwen3.5-35B-A3B-Q4_K_M.ggufhuggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF/resolve/main/Qwen3.5-35B-A3B-Q4_K_M.gguf?download=true建议存放在固态硬盘而不是机械硬盘上，这会直接影响接下来加载模型的速度。3、在命令行执行 llama 目录中的 llama-cli：llama-cli -m Qwen3.5-35B-A3B-Q4_K_M.gguf
新浪微博 2026-03-15 00:00:00
8. 思源笔记+Ollama！在极空间本地搭建强大AI写作系统
微信公众号 2026-04-21 00:00:00
9. Ollama v0.30.0 架构重构实测：删除 42 万行代码后，Apple Silicon 快了多少？
微信公众号 2026-05-14 00:00:00
10. Ollama换引擎了：Mac跑模型速度翻倍
小红书 2026-03-31 00:00:00
11. Ollama 换引擎，苹果 M5 封神了
微信公众号 2026-05-05 00:00:00
12. Ollama 用 MLX 重写了底层，Mac 上本地推理速度直接翻倍
微信公众号 2026-04-03 00:00:00
13. 从“开源英雄”到“社区公敌”，Ollama 到底做错了什么？
知乎 2026-04-18 00:00:00
14. 我为什么把 Ollama 换成了 llama.cpp
微信公众号 2026-05-10 00:00:00
15. ollama v0.23.2 更新：/api/show 缓存提升 6.7 倍，Claude Desktop 集成调整
微信公众号 2026-05-10 00:00:00
16. 为什么你该停止使用 Ollama
微信公众号 2026-04-18 00:00:00
17. 别乱装大模型部署工具！Ollama/llama.cpp/LMStudio不是一回事！
今日头条 2026-03-28 00:00:00
18. ollama v0.20.4 正式发布！MLX 性能大幅提升 ， Gemma4 闪光注意力全面
今日头条 2026-04-10 00:00:00
19. 【当开源项目的bug被原封不动复制，llama.cpp创始人发出灵魂嘲讽】 llama.cpp创始人ggerganov在GitHub上留下了一条意味深长的评论：看着Ollama兄弟们把我们的bug原封不动复制到他们的“新引擎”里，还挺有意思的。让我们看看他们要多久才能发现。 这条评论迅速在本地大模型社区引发热议，也让Ollama长期以来的争议再次浮出水面。 事情的本质其实很简单。llama.cpp是一个凝聚了数万小时高质量开发工作的开源项目，是本地运行大模型的核心基础设施。Ollama则是在llama.cpp之上包装了一层，让模型切换变得更简单，凭借出色的易用性积累了大量用户。 问题出在哪里？Ollama在大约一年前开始转向商业化，推出了闭源桌面应用，并且fork了llama.cpp开始自己修改代码。他们曾宣称对某个新模型提供“首日支持”，结果实现得一塌糊涂。一周后，他们把llama.cpp的代码复制过来，却几乎不提这件事。 这在开源世界是大忌。虽然MIT许可证在法律上允许这样做，但违背了社区的基本规范。 更让人哭笑不得的是技术层面的问题。Ollama默认使用极小的上下文窗口，曾经只有2048，现在也才4096。当上下文超出限制时，它会静默截断而不是报错。于是用户开始抱怨RAG不工作、模型总是忘记之前说过的话，却不知道问题出在哪里。他们还把DeepSeek的精简版直接标注为DeepSeek，让用户对一个优秀模型产生了错误印象。 社区里有人一针见血地指出：Ollama本质上是一个99%靠营销、0.09%靠编码的产品，而那0.09%的编码大多还是错的、过时的。 好消息是，llama.cpp现在已经内置了模型切换功能，加上新的fit选项和路由后端，易用性大幅提升。你不再需要手动计算上下文长度和GPU层数，基本实现了即插即用。LM Studio、KoboldCpp等替代方案也都比Ollama更透明、更可靠。 有人问：作为普通用户，我为什么要关心这些开源圈的恩怨？ 答案很现实：Ollama迟早要赚钱，要么向用户收费，要么出售用户数据。当一个产品的核心价值几乎完全来自它包装的开源项目，而它又不愿意承认这一点，你就该警惕它未来会怎么对待用户了。 开源软件的价值不仅在于代码免费，更在于透明和信任。当这层信任被打破，用户最终会用脚投票。 reddit.com/r/LocalLLaMA/comments/1qvq0xe/bashing_ollama_isnt_just_a_pleasure_its_a_duty
今日头条 2026-02-06 00:00:00
20. ollama v0.17.6 发布：重大解析修复与 Qwen3.5 完整支持，全链路优化
今日头条 2026-03-06 00:00:00
21. Ollama vs llama-server：同一个引擎，两种活法
微信公众号 2026-05-07 00:00:00
22. Ollama与llama.cpp：揭开本地大语言模型运行引擎
微信公众号 2026-04-08 00:00:00
23. Ollama与llama.cpp：本地AI推理的双生花
微信公众号 2026-04-03 00:00:00
24. ollama运行gemma4模型体验
知乎 2026-04-20 00:00:00
25. Ubuntu 手动安装 Ollama 0.17.1 来运行 qwen3.5:35b-a3b 的详细指南
微信公众号 2026-02-27 00:00:00
已收藏
去我的收藏夹