个人知识库开源AI工具！-PrivateGPT

近日，一款名为PrivateGPT的开源模型应运而生，旨在确保聊天机器人ChatGPT保护机密数据。此前，诸如三星、摩根大通、苹果和亚马逊等公司已经禁止其员工使用ChatGPT，原因是担心公司机密信息泄露。PrivateGPT由开发者Iván Martínez Toro开发，用户可以在没有互联网连接的情况下，根据自己的文档提出问题。这一开源模型可以在家用设备上进行本地运行，首先需要下载名为gpt4all的开源大语言模型（LLM）。然后，用户需要将所有相关文件放入一个目录中，以便模型引入并处理所有数据。在模型训练结束后，用户可以向其提出任何问题，模型会根据提供的文档作为上下文进行回答。值得一提的是，PrivateGPT能够处理超过58000个单词，但可能需要较高配置的CPU才能满足其本地运算需求。目前，PrivateGPT正处于概念验证阶段，实际上可以看作是无需互联网的ChatGPT。Toro表示，尽管目前仅为概念验证，但这证明了在本地设备上实现类似ChatGPT的大模型是可行的。相信若这一概念最终转化为实际产品，将可以让企业客户通过使用个性化、安全且保密的ChatGPT来提高生产效率。

在人工智能 (AI) 和自然语言处理 (NLP) 领域，隐私通常是一个基本问题，尤其是在处理敏感数据时。PrivateGPT 是这一领域的突破性发展，正面解决了这个问题。它旨在在没有互联网连接的情况下在本地运行，通过防止数据离开您的执行环境来确保完全隐私。

PrivateGPT是一个可投入生产的人工智能项目，利用大型语言模型（LLMs）的强大能力，即使在没有互联网连接的情况下，也能够提出关于您文档的问题。项目100%私密，任何时候都不会有数据离开您的执行环境。

该项目提供了一个API，提供构建私密、上下文感知的人工智能应用程序所需的所有基本功能。它遵循并扩展了OpenAI API标准，并支持正常和流式响应。

API被分为两个逻辑块：

一、高级API，它抽象了RAG（检索增强生成）管道实现的所有复杂性：

文档的摄取：内部管理文档解析、拆分、元数据提取、嵌入生成和存储。这意味着用户无需关心文档的具体处理过程，只需将文档提供给API，API会自动完成解析、拆分、提取元数据等操作，并将结果存储起来供后续使用。

使用摄取文档中的上下文进行聊天和补全：抽象检索上下文、提示工程和响应生成的过程。这个功能允许用户在聊天或补全过程中利用之前摄取的文档内容作为上下文，从而提供更准确和个性化的回答。API会负责检索相关的上下文信息，并根据用户的输入生成相应的响应。

二、低级API，允许高级用户实现自己的复杂管道：

基于一段文本生成嵌入。这个功能允许用户将一段文本输入到API中，API会根据文本的内容生成相应的嵌入向量表示。这些嵌入向量可以用于后续的机器学习任务，如文本分类、相似度计算等。

根据查询返回摄取文档中最相关的文本块。这个功能允许用户根据特定的查询条件，从之前摄取的文档中检索出最相关的文本块。用户可以指定查询条件，如关键词匹配、语义相似度等，API会根据这些条件返回最相关的文本块，帮助用户快速找到所需的信息。

除此之外，还提供了一个可工作的Gradio UI客户端来测试API，以及一组有用的工具，如批量模型下载脚本、摄取脚本、文档文件夹监视器等。这些工具可以帮助用户更方便地使用API，并提供一些额外的功能和便利性。例如，批量模型下载脚本可以自动下载多个模型，摄取脚本可以自动处理文档的摄取过程，文档文件夹监视器可以实时监控文件夹中的文档变化并触发相应的操作。这些工具的存在使得用户能够更高效地利用API的功能，并提升工作效率。

我是在ubuntu 18.04的服务器部署的，接下来我们就正式开始privateGPT的搭建。

1.clone项目