Ollama + AnythingLLM 本地部署，NAS 打造个人 AI 知识库

Hello 大家好，我是 David

订阅我的频道 ，分享更多 NAS 教程和资讯 ~

AnythingLLM：

一个全栈应用程序，可以将任何文档、资源（如网址链接、音频、视频）或内容片段转换为上下文，以便任何大语言模型（LLM）在聊天期间作为参考使用。此应用程序允许您选择使用哪个LLM或向量数据库，同时支持多用户管理并设置不同权限。

主要特性：

• 🆕 完全兼容 MCP

• 🆕 无代码AI代理构建器

• 🖼️ 多用户实例支持和权限管理（支持封闭源和开源LLM！）

• 自定义人工智能代理

• 👤 多用户实例支持和权限管理 仅限Docker版本

• 🦾 工作区内的智能体（浏览网页、运行代码等）

• 💬 为您的网站定制的可嵌入聊天窗口

• 📖 支持多种文档类型（PDF、TXT、DOCX等）

• 带有拖放功能和清晰引用的简洁聊天界面。

• 100%云部署就绪。

• 兼容所有主流的闭源和开源大语言模型提供商。

• 内置节省成本和时间的机制，用于处理超大文档，优于任何其他聊天界面。

• 全套的开发人员API，用于自定义集成！

• 而且还有更多精彩功能……安装后亲自体验吧！

安装

Docker Compose

services: anythingllm: image: mintplexlabs/anythingllm:latest container_name: anythingllm ports: - 3001:3001 volumes: - /vol1/1000/docker/anythingllm/storage:/app/server/storage environment: - STORAGE_DIR=/app/server/storage restart: unless-stopped

参数说明（更多参数建议去看文档）

/app/server/.env（路径，可选）：配置文件持久化

/app/server/storage（路径）：存储数据

STORAGE_DIR（环境变量）：设置存储路径

使用

浏览器中输入 http://NAS的IP:3001 就能看到界面

点击“开始”

支持的平台还是挺多的，不过国内平台比较少

这样我测试一下之前部署的 Ollama

根据自己情况设置

点击“下一步”

点击“跳过调查”

随便填写名称即可

等待加载完成，成功进入面板

这里有入门指南，小白可以跟着步骤设置

可以新建，也可以点击原有的工作区，可以进入对话界面

先测试一下对接的模型是否正常工作

上传文档进行询问也是没问题的

对话框右侧，可以快速切换不同的模型

工作区这里有一个上传按钮，可以设置知识库

可以看到前面上传的文件也在里面

点击上传文档

勾选文档，移动到工作区

最后点击保存

这里需要等待处理（根据文件大小，处理时间不同）

提问是可以关联到内容的

不过有点不太聪明的样子

打开回复底下的文档，可以看到匹配程度

点击设置按钮

可以对工作区进行设置修改

如果觉得知识库不太准，可以设置一下聊天和向量数据库

应用的全局设置，可以根据需要进行设置

总结

相比于之前，现在的版本可以说是史诗级升级，界面语言可以设置中文，界面也更加好看了，不过唯一问题还是知识库出来的效果不是太理想，可能需要调节参数和数据库匹配方式。对比其他类似知识库，AnythingLLM 可以说是非常的简单易上手，不需要太多复杂设置就可以使用，非常适合入门新手，而且个性化设置自由。

综合推荐：⭐⭐⭐⭐（适合新手，默认就行）

使用体验：⭐⭐⭐（界面美观，上手简单）

部署难易：⭐⭐（简单）︎

占用资源情况，还是比较吃内存的

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～