在自己电脑上自托管GPT AI
最近chatgpt不是非常火吗,值友们还发了一大堆相关文章,搞的我也想玩,但是没有国外号码和可以在国外付钱的信用卡,更重要的是我没有钱,所以试用了几个野鸡站,但是它们就给我问5个问题,啧啧啧,太不爽了,这情况当然得找开源的来玩,然后就给我找到了安装及其简单的GPT4ALL。
重要的事得说在前面,GPT4ALL顶多给你玩玩,拿去商用还不如拿个chatgpt的api好。然后它不会回答你中文,你和它得用英语交流。然后GPT4ALL的模型很小,所以才能在平民级的电脑上用,和chatgpt的模型比就是蚂蚁和蓝鲸的区别。然后回答的速度是和你CPU直接挂钩的,你CPU烂那回答速度肯定快不了。你想问为什么chatgpt的回答那么快,当然是它是用企业级的CPU,以你的钱包大小大约是负担不起,不过我看这么多文章下来感觉值友还是相当有钱的,说不定就有家里有大把钱没处花的,要是这么有钱就去用chatgpt啊。所以懂了吧,不要把GPT4ALL和chatgpt对比,你要是这么干就是比你和chatgpt公司的钱包谁大,你自己知道自己的分量,不要和自己过不去。
好了,我们先下载需要的东西,这次就下windows的,毕竟谁家没有台windows的主机呢。先去这网址载windows的安装包:https://gpt4all.io/index.html。然后我们把模型先下来,要是用自带的下载,不知道要等到猴年马月。有很多模型,我给你们挑2个模型,自己选一个,第一个可以商用,回答速度快,大小差不多4G,第二个不能商用,回答速度比上一个慢,但是准确度比上一个好,差不多 8G。必需要注意的是模型会完全缓存在内存里,记得不要爆内存哦。推荐用idm啊,fdm啊,之类可以多线程下载的软件,顺便说下我是用bitcomet下的,贼快。
https://gpt4all.io/models/ggml-gpt4all-j-v1.3-groovy.bin
(default) (md5sum 81a09a0ddf89690372fc296ff7f625af) Current best commercially licensable model based on GPT-J and trained by Nomic AI on the latest curated GPT4All dataset.
https://gpt4all.io/models/ggml-gpt4all-l13b-snoozy.bin
(md5sum 91f886b68fbce697e9a3cd501951e455) Current best non-commercially licensable model based on Llama 13b and trained by Nomic AI on the latest curated GPT4All dataset.
下载好了就开始安装吧。双击那个exe开始安装。
可以无视那行红字,windows会自动填上你的用户名。
当然我们得接受许可才能继续。
装完后就能打开了。
问你要不要把你的数据分享给GPT4ALL,反正我全选no,你们自己决定,还有我找不到在程序里修改的地方。
然后问你model要下载到哪,把之前下载的模型丢进去那目录里,然后把GPT4ALL关了再开。
然后等它加载完模型就能问它问题了。
我叫它给我创建个学习python的计划,粗略看上去还是可以的,虽然花了很多时间。
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~