尝试搭建私人AI助手却屡屡翻车？用Ollama与OpenClaw时，AI频繁失忆，配置无误也无济于事。这并非个例，而是常见的隐性bug。本文将深入拆解从硬件选型、软件配置到核心bug修复的全过程，提供可直接复用的代码与方案，助你数小时内成功搭建功能完备的私人本地LLM，真正兼顾隐私与功能。
智能速览
AI助手“失忆”是因Ollama不识别developer角色导致的隐性bug。
通过修改配置文件添加`compat`参数，可彻底解决AI身份遗忘问题。
流畅运行GLM 4.7 Flash模型，至少需16GB显存的高性能GPU支持。
清理过期内存索引文件，可解决memory_search返回无关结果的bug。
本地LLM兼顾隐私与定制化，但硬件门槛和排错难度不容忽视。
精华内容
搭建私人AI助手的路上，配置正确却功能失常的“沉默失败”最令人沮丧。以下将提供一套从硬件到软件的完整复刻方案与核心排错技巧。
硬件选型参考
搭建本地LLM的核心瓶颈在于GPU显存。要流畅运行GLM 4.7 Flash等量化模型，建议配置16GB显存的GPU，如NVIDIA GeForce RTX 4090。同时，CPU建议选择多核心的Intel Core i9-13900HX，内存配备64GB RAM，以确保模型并行计算和运行时不会卡顿。这样一套高性能配置在国内市场的成本约1.5-2万元，是兼顾性能与性价比的选择。
关键配置文件
配置的核心是让OpenClaw正确调用本地的Ollama服务。需要修改两个关键文件：`openclaw.json`和`models.json`。首先，在`openclaw.json`中，将`baseUrl`设为`http://localhost:11434/v1`，`apiKey`设为任意字符串如`ollama-local`，并将`api`类型指定为`openai-completions`。其次，确保`models.json`中的模型ID与前者完全一致，这是保证通信成功的基础。
修复AI失忆Bug
AI忘记身份的根源在于OpenClaw的`reasoning`功能会以`developer`角色发送系统提示，而Ollama无法识别此角色，导致提示被静默丢弃。解决方案是在模型配置中加入兼容性参数。在两个配置文件的模型定义中，添加`“compat”: { “supportsDeveloperRole”: false, “supportsReasoningEffort”: false }`，即可关闭此不兼容的功能，让系统提示正常传递，AI助手从而能记住自身角色与技能。
其他排错技巧
除了失忆，还有其他常见问题。一是内存索引污染，导致`memory_search`返回旧数据，需通过`rm`命令删除过期的`.mdr`和`.sqlite`文件。二是上下文窗口溢出，无法读取大文件，可在`openclaw.json`的`agents.defaults`下添加`compaction`和`contextPruning`配置来管理。三是首次请求网关超时，这属于自修复问题，后续请求速度会恢复正常。
Ollama与OpenClaw的组合，让高度定制且隐私安全的私人AI助手从理想走进现实。尽管硬件投入和隐性Bug是两大挑战，但详尽的指南正在降低入门门槛。随着开源工具的成熟和硬件成本的下降，未来普通人拥有专属AI是否将成为常态？
