没有 ChatGPT,看我如何用本地模型驱动 Codex

2026-06-20 12:14:36 8点赞 92收藏 5评论

---零成本搭建离线 AI 编码助手,全程跑在本机显卡

写在前面

OpenAI Codex 是目前最强的代码 Agent 工具之一,能自动读写文件、执行命令、排查 Bug,但默认必须绑定云端 ChatGPT API,不仅消耗 token,代码数据还要上传外网。

没有 ChatGPT,看我如何用本地模型驱动 Codex

如果你手头有一张显存尚可的显卡,完全可以用本地开源大模型驱动 Codex,全程数据离线、不花一分钱,编码能力完全满足日常开发需求。本文以 Windows 环境为例,用通义千问 Qwen3.6-35B 模型 + LM Studio 做本地推理后端,一步步带你打通全流程,附所有踩坑解决方案。

没有 ChatGPT,看我如何用本地模型驱动 Codex

一、准备工作

1. 硬件要求

  • 显卡:推荐 8GB 以上显存(35B 模型选 Q4 量化,8GB 显存可跑;Q6 量化建议 12GB 以上)

  • 内存:16GB 以上,建议 32GB

  • 系统:Windows 10/11

2. 软件准备

  • LM Studio 0.4.16 及以上:本地大模型推理工具,自带 OpenAI 兼容 API 服务

  • Codex 桌面版:OpenAI 官方代码 Agent 客户端

  • 可选:Node.js(如需使用 CLI 命令行版本)


二、第一步:搭建 LM Studio 本地推理服务

LM Studio 的作用是加载本地大模型,并对外提供和 OpenAI 完全兼容的 HTTP 接口,让 Codex 可以像调用云端 API 一样调用本地模型。

1. 安装 LM Studio 并下载模型

  1. 官网下载 LM Studio 并安装,打开后在搜索栏输入 qwen3.6-35b-a3b

  2. 选择 GGUF 量化版本,新手推荐 Q4_K_M,兼顾速度和效果,文件大小约 22GB

  3. 等待下载完成,模型会自动存入本地模型库

2. 开启本地 API 服务

  1. 左侧菜单栏进入 Developer(开发者)Local Server

  2. 右上角点击 Server Settings,确认:

    • Host:127.0.0.1(本机)

    • Port:1234(默认端口,不用改)

    • 勾选 Enable CORS

    • 保存设置

  3. 回到服务页面,点击 Start Server,看到「Server running on http://127.0.0.1:1234」即为启动成功

  4. 点击「Load Model」,选择刚下载的 qwen/qwen3.6-35b-a3b 模型,等待加载完成

3. 验证服务是否正常

打开浏览器,访问 http://localhost:1234/v1/models,能看到返回包含模型名的 JSON 数据,就说明本地服务已经正常工作了。

没有 ChatGPT,看我如何用本地模型驱动 Codex

三、第二步:配置 Codex 桌面端对接本地模型

重点说明:Codex 桌面端没有图形化的本地模型切换按钮,也不会自动扫描 LM Studio,需要通过修改配置文件实现。两者共用同一套配置文件,改一次 CLI 和桌面端同时生效。

1. 找到配置文件

打开资源管理器,在地址栏输入以下路径回车:

plaintext

%USERPROFILE%.codex

找到 config.toml 文件,用记事本或 VS Code 打开。

注意:这个文件是 Codex 自动生成的,里面包含沙箱、插件、桌面界面等大量默认配置,千万不要全删,只修改 / 新增指定内容即可。

2. 修改配置(核心步骤)

在文件最顶部(所有带[ ]的区块之前),添加下面 3 行内容,其他原有配置完全不动:

toml

model = "qwen/qwen3.6-35b-a3b" model_provider = "lmstudio" oss_provider = "lmstudio"

避坑重点

绝对不要自己添加 [model_providers.lmstudio] 自定义区块!

lmstudio 是 Codex 内置的保留提供商 ID,已经默认配置好了地址、协议等参数,手动自定义会直接报错「内置提供商不能覆盖」。新版 Codex 已经原生适配 LM Studio,自动对接localhost:1234,无需额外填写 base_url。

3. 重启 Codex 生效

完全退出 Codex 桌面端(右键任务栏托盘图标→退出),重新打开程序。

没有 ChatGPT,看我如何用本地模型驱动 Codex

四、第三步:验证联通,测试效果

1. 正确启动顺序(别搞反)

  1. 打开 LM Studio,启动本地服务,加载好 35B 模型

  2. 再打开 Codex 桌面端

2. 确认模型生效

进入 Codex 对话界面,输入框上方会显示当前模型名 qwen/qwen3.6-35b-a3b,同时显示「Sandbox ready」(代码沙箱已启用)。

3. 验证真・本地算力

在 Codex 里发送一条测试指令,比如「写一个 Python 版的 Hello World」,同时切回 LM Studio 的 Local Server 页面:

  • 页面下方出现新的请求日志、token 生成统计 → 成功调用本地算力

  • 日志完全无变化 → 仍在走云端,回到配置文件检查拼写


五、全程踩坑避坑指南(亲测有效)

这是本文最有价值的部分,所有报错都是实操中踩过的坑,照着改就能解决。

坑 1:PowerShell 提示 codex 不是内部命令

  • 原因:只装了桌面版,没装 CLI 命令行工具,或者 npm 全局路径没加进系统环境变量

  • 解决:如需 CLI 功能,先装 Node.js,再执行npm install -g @openai/codex;仅用桌面端可忽略

坑 2:config.toml 报错「key with no value」

  • 原因:TOML 语法错误,残留了孤立的无效行(比如单独一行model_providers.lmstudio,不带中括号)

  • 解决:找到报错行数,删除无效废行,确保区块头必须带[ ],每行都是键 = 值格式

坑 3:报错「wire_api = "chat" is no longer supported」

  • 原因:新版 Codex 废弃了 chat 协议,强制使用 responses 协议

  • 解决:LM Studio 0.3.29 以上版本已原生支持 responses 接口,无需额外配置,不要手动写 wire_api 参数即可

坑 4:执行 codex --oss 自动下载官方 gpt-oss-20b

  • 原因:--oss默认使用 OpenAI 官方开源模型,没有指定 LM Studio 提供商

  • 解决:命令行启动需加参数--local-provider lmstudio -m "模型名",桌面端按本文修改 config.toml 即可

坑 5:报错「内置提供商不能覆盖」

  • 原因:手动添加了[model_providers.lmstudio]自定义区块

  • 解决:删掉整个自定义区块,只用顶部 3 行全局配置即可


六、性能优化小技巧

  1. 拉满 GPU 加速:LM Studio 加载模型后,在设置里把 GPU offload 层数拉到最大,推理速度会有质的提升

  2. 量化等级选择:8GB 显存选 Q4_K_M,12GB 以上可选 Q5_K_M/Q6_K,效果更好

  3. 上下文长度:Qwen3.6-35B 原生支持 256K 上下文,可根据显存情况调整,日常编码 8K-32K 足够


七、总结

方案优势

  • 数据隐私:所有代码、文件都在本地处理,不上传任何云端

  • 零成本:不用买 API,不用充 ChatGPT Plus,一次下载永久使用

  • 能力够用:35B 参数模型应对日常编码、查错、脚本编写完全没问题

  • 兼容生态:标准 OpenAI 接口,后续换其他本地模型也能直接用

不足

  • 推理速度不如云端,大段代码生成需要耐心等待

  • 复杂 Agent 工具链能力略弱于 GPT-5.5 等云端模型

整体来说,对于注重数据隐私、有显卡硬件、日常做中小项目开发的用户,这套方案性价比极高,完全可以作为日常编码的主力辅助工具。

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
5评论

  • 精彩
  • 最新
  • 再搞个codex操作obsidian

    校验提示文案

    提交
  • 其实改了config.toml就可以了。

    校验提示文案

    提交
  • 8G跑35B,你扯吧

    校验提示文案

    提交
  • 我16G,跑4B内存都快满了,你跑35B。扯犊子吧

    校验提示文案

    提交
    自己不可能就觉得别人不可能吗? [皱眉]

    校验提示文案

    提交
    收起所有回复
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
92
扫一下,分享更方便,购买更轻松