docker 篇五:Kimi的声望如日中天,本文将悉心引导您,如何利用极空间巧妙地部署这一人工智能巨擘。
Kimi在众多人工智能模型中脱颖而出,凭借其免费试用的慷慨、模型的庞大、响应的迅捷以及功能扩展的丰富多样,赢得了广泛的青睐。它被誉为GPT4.0的超级替代品,以一种势不可挡的热度,迅速走红并突破了原有的圈子。
相比市面上的GPT,节省了一笔vip钱
以下开始部署
先认识一下kimi
今天用极空间新Z4来部署这个AI模型,部署的kimi模型是集合了AI智能+画图,先看看效果
画图的描述越详细画出来胡效果就越接近,当然有时候也会很奇怪,这里不做展示
模型里配置了相当多的人设,涵盖非常广
部署教程
本次教程总共需要使用到4个容器,docker配置比较简单。
部署NextChat
在仓库中直接搜索yidadaa/chatgpt-next-web
容器端口不要改变,本地端口随意,不冲突就行
这里key和url暂时都不填,因为现在还没获取到,点击应用就部署好了,这时候暂时还不能提问和回答。
部署one api
one api来实现大型模型API接口的统一,我的机器是新Z4,下载最新latest版本是正常使用的,很多小伙伴配置会一直重启,建议下载V0.4.3版本,可以使用
先在文件夹里新建一个文件夹one(名字随意)
仓库搜索justong/one-api
映射刚才新建的文件夹,装载路径/data
其他都不用改,只需要把本地端口修改就行,随后启动应用
登录默认root 密码123456,登录后立即修改密码
这个就是为api接口做好了准备,接下来便是大模型的api搭建
部署kimi模型
仓库搜kimi-free-api
端口映射出去就行,其他不用配置
接下来去kimi官网获取token
登录kimi官网,随便说句话,下图可以获取,这个大家应该都会,token保存。
这里有个疑问,手机号注册后用几次就被封号了,换个手机号后注册绑定微信后就正常了,用微信注册绑定手机号,只是猜测是这个问题。
由于kimi不支持ai绘图,需要采取LLM Red Team大模型红队的开源项目glm-free-api来获取智谱清言的api接口以及token。
部署GLM模型
DOCKER仓库vinlic/glm-free-api
和kimi一样,只需要映射本地端口就行
去智谱清言的官网获取token,同样注册后按下图获取
现在kimi和GLM的api和token都有了,再回到one api进行配置
登录one api后台登录后在渠道里添加新渠道
可以按下面的配置来,代理就是前面配置kimi api地址
同样也要增加画图的渠道
提交后,新增令牌,模型范围可以选择
复制令牌,这里也就是配置NEXTGPT的key了
现在回到NextChat环境
刚才复制令牌的key填入OPENAI_API_KEY
BASE_URL填入one api docker本地地址,应用后配置就完成了
这个时候就可以对话了,如果有公网做个反代,在外网都可以使用,现在国内的智能模型已经非常优秀了,大家都可以愉快的玩耍了
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
马blue
校验提示文案
eMuzi
校验提示文案
小王丶省钱买
校验提示文案
旅途不见星光
校验提示文案
zzil
校验提示文案
jasonlovevfx
校验提示文案
陸沁瓷
校验提示文案
陸沁瓷
校验提示文案
jasonlovevfx
校验提示文案
zzil
校验提示文案
旅途不见星光
校验提示文案
小王丶省钱买
校验提示文案
eMuzi
校验提示文案
马blue
校验提示文案