最近老有人问我同一件事：Claude Code 用着挺好，就是费用和额度让人焦虑，看别人本地跑 Qwen3 写代码，也想接上。结果折腾一晚上，报错五花八门，最后放弃。
先说结论：不是你电脑不行，是两边"语言不通"。今天把本地接入的四条路线捋一遍，哪条能走、哪条有坑、你该选哪条。
坑都出在"协议"上
Claude Code 只认 Anthropic 自家的 /v1/messages 协议，而本地推理软件，不管是 Ollama 还是 llama.cpp，说的都是 OpenAI 风格的 /v1/chat/completions，二者无法直连。知乎中间必须有翻译层。大部分教程只教你改个模型名，不讲这一层，所以照着做全是莫名其妙的报错。
这事确实是当下正在发生的需求。社区里关于退订 Claude Code、找平替的讨论一直没断过。知乎也有公司干脆转向私有化部署，代码和数据不出域。bilibili吴恩达和 JetBrains 还联合开了一门课"AI Coding Workflows: From Cloud to Local"，讲的正是把 AI 编程工作流的控制权从云端拿回本地。bilibili
四条路线，逐条对比
1）Ollama 直连。看起来最省事，但有用户接 Qwen3.8 时会报 500，提示"system message must be at the beginning"。知乎当时只能借用 Qwen 3.5 的渲染组件建一个兼容副本绕过去。好消息是，作者后来确认 Ollama 官方已经修复了这个问题，不过新版渲染机制的兼容坑值得留个心眼。
2）llama.cpp 加 CC-Switch 网关。性能最接近原生，适合爱折腾的人，但配置极严格，Windows 上 curl.exe 一个参数写错就能卡你半天。知乎
3）RunJam、LM Studio 这类图形化工具。对新手最友好，点点鼠标就行，但现实选择基本是 7B 到 14B 的小模型，日常写代码、改 bug 够用。知乎适合先体验流程。
4）Unsloth 的 unsloth start claude / codex。官方说法是一条命令就能把 Claude Code、Codex 这些 Agent 接到本地模型上。Unsloth官方文档端点、API key、provider、模型、上下文长度五样全帮你配好，注入是临时或会话级的，不往你 Agent 的正式配置文件里塞东西，用完临时服务器自动关掉。知乎还能用 --gguf-variant 指定量化版本。最有意思的是 --as-subagent：云端旗舰模型继续当主力，本地模型当子代理，干代码检索、样板生成这类杂活。
Unsloth 这条路，凭什么能成
Unsloth 是悉尼两兄弟做的开源项目，GitHub 71k+ star，本来以微调出名。上周刚发布 Dynamic 3.0 GGUF 量化，Qwen3.8-27B 的 Dynamic v3.0 版本 5 天在模型站下载 510 万次。小红书官方口径 top-1 提升 10%，注意，这是下一 token 预测和 BF16 的一致率，不是任务准确率，别过度解读。知乎8 月他们又把 Desktop 桌面版端了出来，目前 beta，Windows、macOS、Linux 三端都支持。知乎
能力实测：别吹，也别看不起
官方给的数字：工具调用准确率平均提升 50%（按模型不同在 30% 到 80% 之间），单轮允许 25 次以上。知乎
代码执行是真沙箱，官方描述这套机制是自愈式工具调用：失败自动检测、修复、重试。Unsloth官方文档Qwen3.5-4B 的对比测试里，XML 格式泄漏从 10/10 降到 0/10。知乎
但也说实话：复杂架构设计、超长链路推理，本地 9B、27B 和云端旗舰还有明显差距。所以我更推荐 --as-subagent 的用法：难题留给云端，杂活交给本地，Token 零成本，代码还不出本机——原作者也说，这个组合拳比"全用本地模型"现实得多。知乎
避坑清单，读到这里存一下
Desktop 还是 beta：社区评论区已经有人反馈模型库加载不出来这类 bug。bilibili重要项目记得留后路。
量化有底线：官方自己的测试显示，低于 UD-Q2_K_XL 的档位会快速偏离原精度，出现循环、空响应和工具调用失效，代码和 Agent 场景的最低建议档就是 UD-Q2_K_XL。知乎
小档位量化（8.37GB 及以下）不带 MTP 模块，省了约 500MB，速度体感差一截别奇怪。
本地推理不等于零风险：想走公网 HTTPS 访问，可以开免费的 Cloudflare 隧道。Unsloth官方文档但联网搜索、代码执行这类服务端工具默认是开着的，而且以你的用户身份运行，谁拿到链接和 API key，谁就能在你这台机器上执行代码，打开前先想清楚暴露面。知乎
最后：你到底该不该上
显存 24GB 以上，或者 32GB 以上统一内存的 Mac，平时就用 Claude Code / Codex：值得试，从 unsloth start 和子代理模式入手，风险最低。
只想尝鲜的新手：LM Studio 图形路线加 7B 到 14B 就够，别一上来就投入太多。
工作强依赖旗舰级推理：别硬上全本地，云端主力加本地杂活分工更现实。
三个可以继续盯的信号：Desktop 什么时候出 beta、Qwen3 下一个小版本量化基线有没有变化、Ollama 的新渲染机制在下个新模型上还会不会再出兼容问题。这三件事哪个动了，这条路线的结论就得跟着更新。
