NAS 部署 MaxKB+Ollama:打造专属知识库

2025-02-18 09:13:39 9点赞 40收藏 2评论

Hello 大家好,我是 David

订阅我的频道 ,分享更多 NAS 教程和资讯 ~

MaxKB(Max Knowledge Base):

一款基于大语言模型和 RAG 的开源知识库问答系统,广泛应用于智能客服、企业内部知识库、学术研究与教育等场景。

NAS 部署 MaxKB+Ollama:打造专属知识库

产品优势:

  • 开箱即用
    支持直接上传文档 / 自动爬取在线文档,支持文本自动拆分、向量化和 RAG(检索增强生成),有效减少大模型幻觉,智能问答交互体验好;

  • 快速接入
    支持零编码嵌入到第三方业务系统,以及快速接入企业微信、钉钉、飞书、公众号等应用,让已有系统快速拥有智能问答能力,提高用户满意度;

  • 灵活编排
    内置强大的工作流引擎和函数库,支持编排 AI 工作过程,满足复杂业务场景下的需求;

  • 模型中立
    支持对接各种大模型,包括本地私有大模型(Llama 3 / Qwen 2 等)、国内公共大模型(DeepSeek / SILICONFLOW / 通义千问 / 腾讯混元 / 字节豆包 / 百度千帆 / 智谱 AI / Kimi 等)和国外公共大模型(OpenAI / Azure OpenAI / Anthropic / Gemini 等)。

安装

Docker Compose

services: maxkb: image: 1panel/maxkb:latest container_name: maxkb volumes: - /vol1/1000/docker/maxkb/data:/var/lib/postgresql/data - /vol1/1000/docker/maxkb/python-packages:/opt/maxkb/app/sandbox/python-packages ports: - "8080:8080" restart: always

使用

浏览器中输入 http://NAS的IP:8080 就能看到界面

NAS 部署 MaxKB+Ollama:打造专属知识库

输入管理员账号和密码进行登录

管理员账号:admin

密码:MaxKB@123..

NAS 部署 MaxKB+Ollama:打造专属知识库

初次使用,需要先修改初始的密码

NAS 部署 MaxKB+Ollama:打造专属知识库

进入到面板,界面比较清爽

NAS 部署 MaxKB+Ollama:打造专属知识库

创建知识库

先创建一个知识库

NAS 部署 MaxKB+Ollama:打造专属知识库

按照要求填写信息

NAS 部署 MaxKB+Ollama:打造专属知识库

创建完成以后,需要上传文档

NAS 部署 MaxKB+Ollama:打造专属知识库

上传文档(支持TXT、Markdown、PDF、HTML、XLS、XLSX、CSV、ZIP 格式)

NAS 部署 MaxKB+Ollama:打造专属知识库

智能分段,并不能很智能分段(vscode看文档能正常分段)

NAS 部署 MaxKB+Ollama:打造专属知识库

高级分段,因为文本里有特殊分割符号“------------”作为分段判断的,所以选高级会更加准确

NAS 部署 MaxKB+Ollama:打造专属知识库

右侧,可以点击文本编辑

NAS 部署 MaxKB+Ollama:打造专属知识库

可以单独设置每个分段的标题

NAS 部署 MaxKB+Ollama:打造专属知识库

设置完成就可以点击“开始导入”

NAS 部署 MaxKB+Ollama:打造专属知识库

等待索引完成,这里还可以再继续添加文档丰富这个知识库

NAS 部署 MaxKB+Ollama:打造专属知识库

问题,可以创建问题和回答内容

NAS 部署 MaxKB+Ollama:打造专属知识库

命中测试,输入内容可以测试是否能命中

NAS 部署 MaxKB+Ollama:打造专属知识库

参数设置,如果命中率低可以选择不同的检索模式和调整参数

NAS 部署 MaxKB+Ollama:打造专属知识库

设置,可以修改基本信息和关联应用

NAS 部署 MaxKB+Ollama:打造专属知识库

添加模型

系统设置 -> 模型设置,这里分为公有模型和私有模型

NAS 部署 MaxKB+Ollama:打造专属知识库



公有模型,支持的平台还是挺多的

NAS 部署 MaxKB+Ollama:打造专属知识库

演示添加一个 OpenAI 模型(用之前部署的 One API)

NAS部署 One API :统一管理大语言模型接口和分发_网络存储_什么值得买

参考设置

NAS 部署 MaxKB+Ollama:打造专属知识库

私有模型,简单来说应该是本地运行模型

NAS 部署 MaxKB+Ollama:打造专属知识库

演示添加一个 Ollama 模型(用之前部署的 Ollama,本地运行会慢一点)

手把手教你在 NAS 上部署本地 DeepSeek-R1 大语言模型_服务软件_什么值得买

参考设置(API Key 随便填)

NAS 部署 MaxKB+Ollama:打造专属知识库

这样模型就添加完成了

NAS 部署 MaxKB+Ollama:打造专属知识库

创建应用

应用 -> 创建应用

NAS 部署 MaxKB+Ollama:打造专属知识库

填写应用名称,点击创建即可

NAS 部署 MaxKB+Ollama:打造专属知识库

选择 AI 模型(其他后面有需要再设置)

NAS 部署 MaxKB+Ollama:打造专属知识库

右边测试一下,看看是否可以调用

NAS 部署 MaxKB+Ollama:打造专属知识库

没有关联知识库前,提问知识库相关内容

NAS 部署 MaxKB+Ollama:打造专属知识库

关联以后,回复就会不一样了(个人感觉还是有点效果的)

NAS 部署 MaxKB+Ollama:打造专属知识库

TIP:

这样我也测试了使用 Ollama 本地跑模型也是没问题的,但是速度确实有点慢

NAS 部署 MaxKB+Ollama:打造专属知识库

没有问题就可以点击“保存并发布”

NAS 部署 MaxKB+Ollama:打造专属知识库

这样就创建完成了,点击打开查看

NAS 部署 MaxKB+Ollama:打造专属知识库

概览,数据和图表展示都挺直观

NAS 部署 MaxKB+Ollama:打造专属知识库

打开这个访问链接

NAS 部署 MaxKB+Ollama:打造专属知识库

这样就获得一个知识库的聊天机器人了

NAS 部署 MaxKB+Ollama:打造专属知识库

命中测试,可以调节参数进行测试

NAS 部署 MaxKB+Ollama:打造专属知识库

对话日志,提问和回答的记录

NAS 部署 MaxKB+Ollama:打造专属知识库

总结

总的来讲,强烈推荐大家尝试部署。对于初次接触这类知识库的新手小白而言,上手难度很低。整个流程要做的非常清晰,上传文档,选择模型,就能快速创建应用了。使用界面设计得十分美观大方,布局合理,各项设置选项一目了然,不会出现操作复杂、让人摸不着头脑的情况,轻松就能上手操作。

当然,我也了解市面上还有 FastGPT 和 Dify 同类其他应用。不过,MaxKB 上手简单、使用方便这两点就已经十分值得一试了。

综合推荐:⭐⭐⭐⭐⭐(非常值得部署)

使用体验:⭐⭐⭐⭐⭐(非常不错的)

部署难易:⭐⭐(简单)︎

展开 收起
2评论

  • 精彩
  • 最新
  • 和anythingllm 比较,那个更好用?

    校验提示文案

    提交
    我比较喜欢用这个

    校验提示文案

    提交
    收起所有回复
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
40
扫一下,分享更方便,购买更轻松