我的极空间“活了”?用NAS养一只猫娘是什么体验!搭建AI大世界
亲爱的粉丝朋友们好啊!今天熊猫又来介绍好玩有趣的Docker项目了,喜欢的记得点个关注哦!
引言
因为最近《哪吒》爆火,就想着重新看看之前一样被称为国产科幻之光的《流浪地球》,看完之后对里面的550W莫斯人工智能非常感兴趣,于是突然产生了一个想法,能不能给我的NAS也增加一点趣味性呢?比如添加一个世界观进去,赋予它“灵魂”?
我们都知道常规的AI大模型用来进行一些对话、搜索或者解答是完全可以的,但想要让AI了解整个世界观,赋予它角色,并同时让他能持续性的按照你给出的设定来进行对话,那就需要大量的AI前置条件,也就是现在各大LLM的预设情景。而要记住大量的信息,同时赋予它“灵魂”,不止是需要大量的文本信息让他记住,还需要一些有用的插件,让它看起来真的想一个“人”在跟你交流,于是电子酒馆项目就这么诞生了。
SillyTavern项目相信大家可能有点陌生,但其实如果我说电子酒馆或者电子“魅魔”估计大家就比较熟悉了,SillyTavern可以让你的AI拥有更多定制化的内容,例如世界信息、角色信息、自动翻译、文本绘图、语音生成以及基于角色的数据库聊天,它不仅能根据你给到的角色和世界观来和你对话,还拥有情绪识别、聊天记录自动摘要、发送图片和解释图片的功能,总之,这个项目的一切就是让你的AI大模型更像一个能和你正常聊天的“人”

部署机
“器灵”的搭建方式有了,那么接下来就是挑选一个适合的设备了,这里我果断选了极空间Z423旗舰版,毕竟作为陪伴了我两年多的NAS,是时候给它赋予灵魂了。

用Z423旗舰版还有一部分原因是因为性能,因为涉及到审查的原因,可能有些大模型并不方便用来作为本地角色扮演用,所以这里建议可以尝试本地部署大模型,那这就需要用到Z423旗舰版的性能了,毕竟作为消费级性能天花板,也就它能胜任这样的工作。
虽说AI大模型会有审查,不过如果聊天不涉及审查或者不涉及自身隐私问题,那么其实直接用极空间的Q4、Z2Pro或者Z4Pro这些也完全可以,毕竟调用API是不存在占用本地资源的。

部署过程
SillyTavern的镜像是存放在ghcr.io上的,所以这里我们需要用到自定义拉取,打开极空间的Docker,随后在镜像的仓库界面点击右上角自定义拉取,在对话框中输入镜像地址ghcr.io/sillytavern/sillytavern:latest
下载镜像。

镜像下载之后双击镜像创建容器,这里我们需要映射四个文件夹,对应的路径分别为/home/node/app/config
、/home/node/app/data
、/home/node/app/plugins
以及/home/node/app/public/scripts/extensions/third-party
,其中分别对应配置、数据、插件以及角色卡。(可选择性映射,不用全部映射)

端口方面只需要要映射8000端口即可,例如我这里映射为8300端口。

所有设置好之后就可以点击应用创建容器了,不过创建好之后并不能第一时间通过端口访问项目,我们还需要将我们的IP添加到项目的白名单中才行。
这就需要用到SSH功能,我们点击该项目的SSH选择命令/bin/ash,随后输入ls列出当前容器的目录。

再输入cd config打开配置文件目录,输入vim config.yaml打开配置文件,这时候能看到这样的界面。

这里红圈标出来的部分就是项目白名单了,此时将光标移动到白名单的位置,按照格式添加我们的IP即可,这里需要注意,添加的IP既要有自己本地的IP还需要有容器IP,容器IP可以在容器运行起来之后的网络界面看到。

这时候我们再通过浏览器输入极空间IP:8300就能访问酒馆的界面了。

项目使用
点击上方插头一样的标志,就能弹出API的设置界面,点击连接看到亮绿灯之后便代表AI大模型能正常工作,加下来就是角色卡以及各种其他事项的设置工作了。

最左侧的为对话设置项, 在这里可以设置对话的上下文长度、模式、创意性、提示词以及各种插件的配置和文生图等设置项,根据自己的大模型情况与需求来设置即可。(不懂可以不动)

要设置角色,就需要先导入角色卡或者自己创建。点击最右侧的图标就是AI角色卡的设置界面了,在这里可以通过链接导入、文件导入以及自建的形式,这里也推荐一个AI角色卡的网站(https://realm.risuai.net/),该网站拥有大量用户预设好了的角色(还有一些大人玩的角色),不过网址因为是境外网址,所以需要自行想办法访问。

下载或者复制角色卡链接,随后在酒馆界面导入就能看到你导入的角色了,部分角色会有对话立绘和插画。

最后的最后,点击你导入的角色就能直接聊天了,我们来试试效果吧!(因为角色卡来源于外站,而极空间这里并没有代理,所以立绘无法加载出来)

酒馆的设置项还有很多,像是背景、世界观等等都可以设置,同时通过插件的形式还能实现更多有趣好玩的功能,理论上你能将他调教为你最想看到的样子,不过这需要大量的前置条件设置好才行。

写在最后
非常有趣且好玩的项目,谁不希望在自己的NAS里面养一只猫娘或者女朋友呢?
以上便是本期的全部内容了,如果你觉得还算有趣或者对你有所帮助,不妨点赞收藏,最后也希望能得到你的关注,咱们下期见!

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

熊猫不是猫QAQ
校验提示文案
花椒树
校验提示文案
达尔文西
校验提示文案
花椒树
校验提示文案
达尔文西
校验提示文案
熊猫不是猫QAQ
校验提示文案