终极指南:在极空间中部署大型语言模型问答系统,开启你的AI革命之旅!
引言
极空间在前不久系统更新中加入了AI搜索的功能,通过AI搜过,你可以直接输入自然语言从而查找相关的照片。同时内置的极空间AI也能直接实现对文件的更精确检索以及视频中人物的检索。对于我这种相册近万张的人来说,这个功能特别好用。

那么在这个基础上能不能更进一步呢?恰好随着文章越来越多,很多时候之前写过的内容我也会忘记,于是便想着搭建一个自己的知识库,同时这个库又要拥有AI功能进行辅助搜索信息。恰好1Panel发布了他们的最新项目—MaxKB,一个基于LLM的大语言模型的知识库问答系统。
体验
MaxKB开箱即用,具备以下特性:
开箱即用:支持直接上传文档、自动爬取在线文档,支持文本自动拆分、向量化,智能问答交互体验好;
无缝嵌入:支持零编码快速嵌入到第三方业务系统;
多模型支持:支持对接主流的大模型,包括 Ollama 本地私有大模型(如 Llama 2、Llama 3、qwen)、通义千问、OpenAI、Azure OpenAI、Kimi、智谱 AI、讯飞星火和百度千帆大模型等。

使用项目前首先我们需要创建知识库,MaxKB直接直接上传文档,支持TXT、Markdown、PDF、DOCX这几个格式,同时也支持爬取web站点的内容。

创建好知识库之后,转到应用界面新建应用。选择我们需要设置的AI模型,再将刚刚创建的知识库进行关联,具体的参数根据自己情况设置。

这时候点进刚刚创建的应用,就能看到访问链接。概览中提供了监控统计,可以看到访问用户数、提问数以及消耗的token和用户满意度。同时项目支持通过将知识库嵌入到网站或者应用中。

点击公开访问链接,就能进入知识库助手界面了,你可以把它当做一个AI大模型使用,同时它还兼顾了你投喂的只是,在检索到和你知识库相匹配的内容之后,便会引用你知识库的内容进行回答。

部署
项目的部署并不难,首先我们需要创建好持久化目录。在你的Docker文件夹下新建文件夹MaxKB。

随后在docker中搜索1panel/maxkb下载镜像,镜像一共有3GB左右,所以稍微需要等待一下。

下载完成之后创建容器。将文件夹映射路径设置为我们刚刚创建的MaxKB文件夹路径,端口只需要将8080端口映射出去即可,最后启动容器。

最后通过极空间的远程访问或者浏览器直接输入极空间IP+端口号即可访问项目首页了,默认用户名为admin,密码为MaxKB@123..,首次登录会提醒修改密码。

总结
项目目前是初期阶段,在知识库的回答检索上,AI模型的接入设置上都有一些不人性化的设计,不过总的来说还是可用的。如果你拥有大量的文档,那么投喂之后效果还是不错的,并且1panel的开发团队也很有经验,后续项目优化好了应该体验也不会差。
以上便是本期的全部内容了,如果你觉得还算有趣或者对你有所帮助,不妨点赞收藏,最后也希望能得到你的关注,咱们下期见!

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

浮生行简
校验提示文案
无刃幻越
校验提示文案
歪我是小爽啊
校验提示文案
歪我是小爽啊
校验提示文案
我是四海飘零
校验提示文案
岁月无声消逝
校验提示文案
武名
校验提示文案
zymilan21
校验提示文案
zymilan21
校验提示文案
武名
校验提示文案
岁月无声消逝
校验提示文案
浮生行简
校验提示文案
我是四海飘零
校验提示文案
歪我是小爽啊
校验提示文案
歪我是小爽啊
校验提示文案
无刃幻越
校验提示文案