单机离线版ChatGPT? GPT4ALL初体验

在网上搜索ChatGPT本地部署，能搜到很多文章一本正经的教你如何操作，仔细看了，却发现和自己想的不太一样，要不是使用Chatbot-UI在加上OpenAI的apikey调用OpenAI官方接口，要不就是使用GPT4ALL。GPT4ALL的名字乍一看好像很GPT4有关，实际上它的完整名字是“GPT For ALL”，是NomicAI公司推出的大模型，OpenAI没有隶属关系。

NomicAI给GPT4ALL大模型开发了一个桌面客户端软件，但是没有提供webui。现在该客户端不仅支持GPT4ALL模型，其他一些开源模型也能够支持了。访问它的 官网 可以看它支持哪些模型并且能够在它官网直接下载模型。

安装好GPT4ALL后，准备几个问题，看下它回答的怎么样。感觉它数学方面有些弱，一些简单的文科问题倒是没什么问题，回复速度也挺快的。不过我用中文问它，它回复的却是英文。

8G显存的2070显卡轻松带动，显存占用稳定。

显存占用情况

换模型测试下。至少能中文回复了。虽然看起来经常是一本正经的胡说八道。

Mistral OpenOrca

最后，有没有哪位大佬告诉我怎样在浏览器调用GPT4ALL，客户端虽然方便，但没办法团队协同使用。请大佬在评论区留言赐教！