跑了三年半 nightly 的 llama.cpp，终于"转正"了。
11月13日，llama.cpp 和底层张量库 ggml 同时发布 v1.0.0。版本号第一次从"b+五位数字"变成正式的"1.0"，项目也第一次给出承诺：公共 C API 不再随便破坏。知乎哔哩哔哩知乎
但对本地 AI 玩家来说，1.0 不只是版本号。下面这三类事，升级前必须搞清楚。
第一类：会让你服务起不来的删除项。
这次是真删东西了。被嫌弃多年的 `–defrag-thold`（`-dt`）被彻底移除，如果你的启动脚本里还留着它，模型还没加载完，服务就会报错退出。打开 systemd 或 docker compose 的配置，搜一遍"defrag"，有就删。同时，库的 soname 从 libllama.so.0 变成 .so.1——走 apt、Homebrew 这类渠道装机的人，这题不是你能解的，等打包的人跟上就行。知乎
第二类：变严的安全默认值。
以前把 llama-server 绑在 0.0.0.0、让家里另一台电脑连进来、还开着工具调用的，旧版只警告，新版直接拒绝启动。官方给了三种解法：设 API key、改回 127.0.0.1、或者显式加免认证开关——最后一招只建议用在完全隔离的实验网络上。顺带一提，视觉模型读 NAS 上的图片，现在也会被默认拦下，需要单独放行。知乎
第三类：真正的重头戏，消费级显卡跑大 MoE。
专家权重留在内存里，显存降级成"缓存"，只常驻被高频调用的热专家。贡献者自测：一张 RTX 4090 跑 93.7GB 的 Qwen3.8-Flash-Next，缓存方案放进显存的部分比按层切分更少，速度反而快了约六成。配套还有两个实在的改进：FP8 KV 缓存把 KV 显存砍半；`–ple` 分片把不同量化版本共用的那部分单独成文件，换量化不用重复下载。知乎
一句话：16-32GB 显存的单卡加 64-128GB 内存，跑近百 GB 的 MoE 模型做单人对话和本地编程 agent，真的可行了。知乎
升级节奏给个准话：别在主力机器上直接替换。先在测试机上把启动脚本过一遍——能启动、带图正常、工具调用还能用，再动真正在跑的那台。同时记得留一个可回滚的旧构建。用 Ollama、LM Studio 这类封装的人看不到底层引擎版本号，等客户端自己更新就好。知乎知乎
最后一个彩蛋：这个版本的一批核心 PR 都带着"AI 辅助声明"，而创建者 Gerganov 的 API 清理工作，用的就是 llama.cpp 自己跑在本地的模型。这个引擎正在用它自己维护自己。至于提速数字，那是贡献者在自己的机器上测的，换硬件换参数就得重测——这本来就是本地党的日常。知乎
