在自己电脑上自托管GPT AI

2023-06-21 14:59:39 2点赞 17收藏 0评论

最近chatgpt不是非常火吗,值友们还发了一大堆相关文章,搞的我也想玩,但是没有国外号码和可以在国外付钱的信用卡,更重要的是我没有钱,所以试用了几个野鸡站,但是它们就给我问5个问题,啧啧啧,太不爽了,这情况当然得找开源的来玩,然后就给我找到了安装及其简单的GPT4ALL。

重要的事得说在前面,GPT4ALL顶多给你玩玩,拿去商用还不如拿个chatgpt的api好。然后它不会回答你中文,你和它得用英语交流。然后GPT4ALL的模型很小,所以才能在平民级的电脑上用,和chatgpt的模型比就是蚂蚁和蓝鲸的区别。然后回答的速度是和你CPU直接挂钩的,你CPU烂那回答速度肯定快不了。你想问为什么chatgpt的回答那么快,当然是它是用企业级的CPU,以你的钱包大小大约是负担不起,不过我看这么多文章下来感觉值友还是相当有钱的,说不定就有家里有大把钱没处花的,要是这么有钱就去用chatgpt啊。所以懂了吧,不要把GPT4ALL和chatgpt对比,你要是这么干就是比你和chatgpt公司的钱包谁大,你自己知道自己的分量,不要和自己过不去。

在自己电脑上自托管GPT AI

好了,我们先下载需要的东西,这次就下windows的,毕竟谁家没有台windows的主机呢。先去这网址载windows的安装包:https://gpt4all.io/index.html。然后我们把模型先下来,要是用自带的下载,不知道要等到猴年马月。有很多模型,我给你们挑2个模型,自己选一个,第一个可以商用,回答速度快,大小差不多4G,第二个不能商用,回答速度比上一个慢,但是准确度比上一个好,差不多 8G。必需要注意的是模型会完全缓存在内存里,记得不要爆内存哦。推荐用idm啊,fdm啊,之类可以多线程下载的软件,顺便说下我是用bitcomet下的,贼快。

https://gpt4all.io/models/ggml-gpt4all-j-v1.3-groovy.bin

(default) (md5sum 81a09a0ddf89690372fc296ff7f625af) Current best commercially licensable model based on GPT-J and trained by Nomic AI on the latest curated GPT4All dataset.

https://gpt4all.io/models/ggml-gpt4all-l13b-snoozy.bin

(md5sum 91f886b68fbce697e9a3cd501951e455) Current best non-commercially licensable model based on Llama 13b and trained by Nomic AI on the latest curated GPT4All dataset.

在自己电脑上自托管GPT AI

下载好了就开始安装吧。双击那个exe开始安装。

在自己电脑上自托管GPT AI

可以无视那行红字,windows会自动填上你的用户名。

在自己电脑上自托管GPT AI

在自己电脑上自托管GPT AI

当然我们得接受许可才能继续。

在自己电脑上自托管GPT AI

在自己电脑上自托管GPT AI

在自己电脑上自托管GPT AI

在自己电脑上自托管GPT AI

装完后就能打开了。

在自己电脑上自托管GPT AI

问你要不要把你的数据分享给GPT4ALL,反正我全选no,你们自己决定,还有我找不到在程序里修改的地方。

在自己电脑上自托管GPT AI

然后问你model要下载到哪,把之前下载的模型丢进去那目录里,然后把GPT4ALL关了再开。

在自己电脑上自托管GPT AI

然后等它加载完模型就能问它问题了。

在自己电脑上自托管GPT AI

我叫它给我创建个学习python的计划,粗略看上去还是可以的,虽然花了很多时间。

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起

Microsoft 微软 Office 365 个人版

Microsoft 微软 Office 365 个人版

106元起

Microsoft 微软 到手18.2元/月 微软office365家庭版microsoft365增强版15个月

Microsoft 微软 到手18.2元/月 微软office365家庭版microsoft365增强版15个月

279元起

Microsoft 微软 office专业版永久激活码office2019增强版终身版outlook密钥

Microsoft 微软 office专业版永久激活码office2019增强版终身版outlook密钥

249元起

Microsoft 微软 活动6天 office365家庭版microsoft365订阅密钥

Microsoft 微软 活动6天 office365家庭版microsoft365订阅密钥

239元起

自助挂号应用服务

自助挂号应用服务

15000元起

Microsoft 微软 Office2016小型企业版 MAC专用

Microsoft 微软 Office2016小型企业版 MAC专用

149元起

SANGFOR 深信服科技 存储虚拟化双活软件V6.0

SANGFOR 深信服科技 存储虚拟化双活软件V6.0

29000元起

Microsoft 微软 365家庭版个人版正版密钥Office365永久激活2021Mac

Microsoft 微软 365家庭版个人版正版密钥Office365永久激活2021Mac

暂无报价

猎寻 手机信息采集系统1.0 -ZK5000(手机快速点验/手机检查仪)

猎寻 手机信息采集系统1.0 -ZK5000(手机快速点验/手机检查仪)

38800元起

黑马校对软件v22.0国产化平台服务器版6亿字技术支持私有化部署服务

黑马校对软件v22.0国产化平台服务器版6亿字技术支持私有化部署服务

170000元起

京东 金山麒麟WPS办公软件V11

京东 金山麒麟WPS办公软件V11

暂无报价

Microsoft 微软 MAC专用办公软件office2019永久版

Microsoft 微软 MAC专用办公软件office2019永久版

269元起

华三(H3C) SecPath F100-BAS AV 防病毒 License,3年

华三(H3C) SecPath F100-BAS AV 防病毒 License,3年

6904元起

卡巴斯基(kaspersky)网络解决方案中小企业版杀毒软件1服务器10台PC三年升级

卡巴斯基(kaspersky)网络解决方案中小企业版杀毒软件1服务器10台PC三年升级

3990元起

Microsoft 微软 OfficePLUS 订阅会员

Microsoft 微软 OfficePLUS 订阅会员

9.9元起

Nintendo 任天堂 Switch游戏卡带《大航海时代4 威力加强版 HD》 中文

Nintendo 任天堂 Switch游戏卡带《大航海时代4 威力加强版 HD》 中文

196元起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关好价推荐
查看更多好价

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
17
扫一下,分享更方便,购买更轻松