Openclaw+本地模型史诗级加强！oMLX碾压ollama拯救你的Mac养虾场

这两天GitHub上又爆出一个神级工具，短短几天star数已经从100+干到了现在的5K+（截至目前，马上破6K），这就是oMLX，一个专门为Apple Silicon设计的本地大模型部署平台。

图片

你的openclaw连接本地模型后，是不是经常一个问题等半天没回应，好不如有响应了，却是

Context overflow: prompt too large for the model. Try /reset (or /new) to start a fresh session, or use a larger-context model.

提示词太长的报错？快来跟着我更新设置，把小龙虾从能用变成好用吧。

第一步、卸载ollama

oMLX不是ollama的扩展，不需要ollama。卸载ollama并删除模型文件，释放磁盘空间，后面会用到。没有安装ollama的直接跳过。

第二步、下载安装oMLX

oMLX只支持Apple的M系列芯片！

oMLX只支持Apple的M系列芯片！

oMLX只支持Apple的M系列芯片！

访问https://omlx.ai/ 下载macOS版本对应安装包（oMLX是基于Python运行的，macOS 15.x默认Python是2.x，26以后是3.x，所以分不同安装包。盲猜，未验证），安装拖进Application就行了，简单就不放截图了。

启动oMLX，设置API key（一会会用到）和端口号，点击启动服务，点击Open Admin Panel & Close 打开oMLX管理面板。

图片

第三步、下载模型

默认界面是英文，可以先到Settings-Global Settings-Language改成中文即可。

然后点击模型-下载器，点击下方的加载推荐模型，会加载模型列表。oMLX会读取系统配置，要求内存大的模型就会有内存偏紧提示，会影响整体使用体验，不推荐使用。

oMLX还非常友好的提供国内魔塔镜像源，方便没法科学上网的小伙伴，作者虽然是个韩国银（可能），还是蛮懂国情的。

各位根据自己的配置选择适合的模型，我的macmini是M4的丐版，这里选的是qwen3.5-4b的优化版。9b版本也可以部署，后面会提到原因为什么换掉。

第四步、部署openclaw，配置模型

安装过程不再赘述，能看到这的应该都不止部署过一次了，只说下怎么配置模型这块。

openclaw config

模型这里选择倒数第二个Custom Provider

图片

url

如果没改过端口，默认http://127.0.0.1:8000/v1或者在API 端点里复制

图片

api key

第二步安装时设定的那个，也可以留空，前提是在设置了开启这个开关且openclaw和oMLX在一台机器上。

图片

下一步显示验证成功就可以正常使用了。

图片

第五步、修改oMLX设置-至关重要

oMLX之所以能比ollama快，就在于把一部分的上下文存储到硬盘上，而不是全都放在内存里，这也是为什么第一步要求把ollama卸载并删除模型文件的原因。

以下几个参数是按照Macmini M4 16+256的最低配置来设定的，更高配置可以把值往大里加。

图片

第六步、 增加上下文长度

openclaw的上下文长度最小是 160K，所以如果大模型的上下文长度小于这个值，就会频繁报Context overflow: prompt too large for the model. Try /reset (or /new) to start a fresh session, or use a larger-context model.提示词太长的错。qwen3.5:4b默认的上下文长度是32K，我这里直接后面加个零放到到10倍，3天使用下来没遇到过提示词过长的报错了。

图片

另外把这几项也选成你安装的模型。

图片

图片

最后，说说为啥不选qwen3.5:9b。9b及以上的qwen3.5默认是开启了思考模式的，这就导致给openclaw下发个指令，状态图标都超时消失了，还没回复，也不知道是哪块出问题了。其实是qwen3.5:9b还没结束思考过程，在oMLX的聊天页面使用qwen3.5:9b对话可以明显的思考过程。而oMLX又没有禁止思考的开关（安装时oMLX是v0.2.16,2.18版本增加了思考推理模型的预算，应该可以消除思考增加的相应时长）

下图是使用qwen3.5:4b模型的token处理速度，简单问题openclaw一般会在半分钟内给出回答，复杂点的会有1~2分钟，总算不会像ollama那样十几分钟半小时都没反应的情况了，小龙虾也算真的活起来了。