本地玩家的电脑，一直缺一个敢放心生产用的"稳定版"。11月13日，llama.cpp和底层张量库ggml同时发布v1.0.0，结束了三年半只有b1xxxx流水号的nightly时代。这次的关键不是数字好看，而是四个字：API承诺稳定——破坏性改动只升主版本号，nightly照发，下游工具终于可以跟着正式版走。小红书知乎
1.0真正值钱的三件事
一、MoE模型开始"挤得进"消费级显卡。 MoE的参数大头是专家权重，可每个token只激活一小部分。新增的 `–moe-cache-mib` 把专家全放内存、显存只留一块缓存：贡献者自测的Qwen3.8-Flash-Next Q4_0，模型文件93.7GB、专家占65.4GB，24GB显存的4090全塞根本放不下。知乎
换成缓存后，显存里放的专家反而比整层划分法还少（10.7GB对16.5GB），解码速度快了约六成，命中率达到77%。注意这是贡献者在自己机器上的自测数据，换机器会变，但逻辑站得住：让常用的专家住显存，不常用的坐内存等班车。知乎
二、FP8 KV缓存。 `-ctk/-ctv` 新增f8_e4m3，用OCP标准的FP8存KV，每个元素8 bit，是默认f16的一半。装不动模型的真相往往是：显存不只装权重，KV cache也要留位置——上下文一拉长就爆，这是8G、16G卡玩家的高频坑。8G/12G显存玩家的升级笔记里，第一条建议就是N卡开启 `–ctk fp8`。知乎小红书
三、PLE外置分片。 Gemma 4、Qwen3.8Next这类带逐层嵌入的模型，新增的 `–ple` 能把这部分放进单独的GGUF，甚至放在另一块硬盘上，换量化版本不用重新下一整包。知乎
升级还是再等等？给主力机的顺序
1.0删了35个标着DEPRECATED的函数，投机解码接口从llama-ext.h搬进llama.h，直接链接libllama的项目要改代码才能编过。所以：别在主力机上直接替换，先在一台测试机把启动脚本过一遍，能启动、能带图、工具调用还能用，再动真正在跑的那台。接着再固定GGUF、推理后端和上下文长度，跑一遍加载+推理冒烟测试，对比首token时间、生成速度和峰值内存，留一个可回滚的构建。知乎知乎知乎
还有一条容易忽略：llama-server默认安全设置收紧了——以前绑0.0.0.0、开着工具调用又不设key，旧版只打一句警告，现在直接退出。服务一开就想"全宿舍共享模型"的朋友更要注意：llama.cpp十一月初刚被美国国家漏洞数据库收录了底层漏洞CVE-2026-116096，别把"方便"架在裸端口上。知乎小红书
一个别忘了的大前提：工具的1.0，不等于模型的1.0。 Qwen 4.0 Max传闻11月17日在港峰会亮相，支持1M上下文与多模态。Token Plan上的预览版是限时窗口，官方页面写明预览期到11月25日24:00、结束后下线。权重开不开、什么时候开，才是本地玩家唯一关心的问题——官宣再大，你的电脑能跑才算数。眼下本地的稳妥主力，还是Qwen3.8-27B那一档，加上这次的专家缓存+FP8 KV组合拳。知乎知乎
1.0不代表更快，代表本地AI折腾了三年半，终于可以被"定下来"了。 这轮，轮到主力机排队上车。
