个人知识库开源AI工具!-PrivateGPT

2024-06-10 09:55:11 8点赞 60收藏 7评论

近日,一款名为PrivateGPT的开源模型应运而生,旨在确保聊天机器人ChatGPT保护机密数据。此前,诸如三星、摩根大通、苹果和亚马逊等公司已经禁止其员工使用ChatGPT,原因是担心公司机密信息泄露。PrivateGPT由开发者Iván Martínez Toro开发,用户可以在没有互联网连接的情况下,根据自己的文档提出问题。这一开源模型可以在家用设备上进行本地运行,首先需要下载名为gpt4all的开源大语言模型(LLM)。然后,用户需要将所有相关文件放入一个目录中,以便模型引入并处理所有数据。在模型训练结束后,用户可以向其提出任何问题,模型会根据提供的文档作为上下文进行回答。值得一提的是,PrivateGPT能够处理超过58000个单词,但可能需要较高配置的CPU才能满足其本地运算需求。目前,PrivateGPT正处于概念验证阶段,实际上可以看作是无需互联网的ChatGPT。Toro表示,尽管目前仅为概念验证,但这证明了在本地设备上实现类似ChatGPT的大模型是可行的。相信若这一概念最终转化为实际产品,将可以让企业客户通过使用个性化、安全且保密的ChatGPT来提高生产效率。

个人知识库开源AI工具!-PrivateGPT

在人工智能 (AI) 和自然语言处理 (NLP) 领域,隐私通常是一个基本问题,尤其是在处理敏感数据时。PrivateGPT 是这一领域的突破性发展,正面解决了这个问题。它旨在在没有互联网连接的情况下在本地运行,通过防止数据离开您的执行环境来确保完全隐私。

个人知识库开源AI工具!-PrivateGPT

PrivateGPT是一个可投入生产的人工智能项目,利用大型语言模型(LLMs)的强大能力,即使在没有互联网连接的情况下,也能够提出关于您文档的问题。项目100%私密,任何时候都不会有数据离开您的执行环境。

该项目提供了一个API,提供构建私密、上下文感知的人工智能应用程序所需的所有基本功能。它遵循并扩展了OpenAI API标准,并支持正常和流式响应。

个人知识库开源AI工具!-PrivateGPT

API被分为两个逻辑块:

一、高级API,它抽象了RAG(检索增强生成)管道实现的所有复杂性:

文档的摄取:内部管理文档解析、拆分、元数据提取、嵌入生成和存储。这意味着用户无需关心文档的具体处理过程,只需将文档提供给API,API会自动完成解析、拆分、提取元数据等操作,并将结果存储起来供后续使用。

使用摄取文档中的上下文进行聊天和补全:抽象检索上下文、提示工程和响应生成的过程。这个功能允许用户在聊天或补全过程中利用之前摄取的文档内容作为上下文,从而提供更准确和个性化的回答。API会负责检索相关的上下文信息,并根据用户的输入生成相应的响应。

个人知识库开源AI工具!-PrivateGPT

二、低级API,允许高级用户实现自己的复杂管道:

基于一段文本生成嵌入。这个功能允许用户将一段文本输入到API中,API会根据文本的内容生成相应的嵌入向量表示。这些嵌入向量可以用于后续的机器学习任务,如文本分类、相似度计算等。

根据查询返回摄取文档中最相关的文本块。这个功能允许用户根据特定的查询条件,从之前摄取的文档中检索出最相关的文本块。用户可以指定查询条件,如关键词匹配、语义相似度等,API会根据这些条件返回最相关的文本块,帮助用户快速找到所需的信息。

个人知识库开源AI工具!-PrivateGPT

除此之外,还提供了一个可工作的Gradio UI客户端来测试API,以及一组有用的工具,如批量模型下载脚本、摄取脚本、文档文件夹监视器等。这些工具可以帮助用户更方便地使用API,并提供一些额外的功能和便利性。例如,批量模型下载脚本可以自动下载多个模型,摄取脚本可以自动处理文档的摄取过程,文档文件夹监视器可以实时监控文件夹中的文档变化并触发相应的操作。这些工具的存在使得用户能够更高效地利用API的功能,并提升工作效率。

我是在ubuntu 18.04的服务器部署的,接下来我们就正式开始privateGPT的搭建。

1.clone项目

展开 收起

WPS 金山软件 WPS 超级会员 3年卡

WPS 金山软件 WPS 超级会员 3年卡

264.1元起

WPS 金山软件 超级会员15个月卡+哔哩哔哩大会员年卡

WPS 金山软件 超级会员15个月卡+哔哩哔哩大会员年卡

暂无报价

WPS 金山软件 AI会员1年 金山办公软件官方正版

WPS 金山软件 AI会员1年 金山办公软件官方正版

178元起

ihuman 洪恩 识字子集拼音思维ABC会员永久包3-6岁儿童早教启蒙礼物玩具 识字会员终身包

ihuman 洪恩 识字子集拼音思维ABC会员永久包3-6岁儿童早教启蒙礼物玩具 识字会员终身包

268元起

WPS 金山软件 超级会员15个月+芒果TV年卡

WPS 金山软件 超级会员15个月+芒果TV年卡

158元起

Microsoft 微软 OFFICE 365 家庭版 会员

Microsoft 微软 OFFICE 365 家庭版 会员

238元起

Microsoft 微软 OFFICE 365 个人版 办公软件

Microsoft 微软 OFFICE 365 个人版 办公软件

199元起

WPS 金山软件 超级会员季卡

WPS 金山软件 超级会员季卡

39元起

WPS 金山软件 超级会员2年卡 赠AI会员

WPS 金山软件 超级会员2年卡 赠AI会员

187.15元起

365office365OfficePLUS Microsoft365 12 -

365office365OfficePLUS Microsoft365 12 -

239元起

WPS 金山软件 会员季卡

WPS 金山软件 会员季卡

37.05元起

Microsoft 微软 365 家庭版 电子秘钥 正版高级Office应用 1T云存储

Microsoft 微软 365 家庭版 电子秘钥 正版高级Office应用 1T云存储

289元起

SANGFOR 深信服科技 AF-2000-FH2130B-SY 下一代防火墙

SANGFOR 深信服科技 AF-2000-FH2130B-SY 下一代防火墙

125000元起

SANGFOR 深信服科技 VDI授权与配件

SANGFOR 深信服科技 VDI授权与配件

75100元起

WPS超级会员Pro套餐4年卡1488天官方正版pdf转word排版

WPS超级会员Pro套餐4年卡1488天官方正版pdf转word排版

暂无报价

SWIT 啄木鸟系列 MC-1200 手机信息点验分析系统(标准版)

SWIT 啄木鸟系列 MC-1200 手机信息点验分析系统(标准版)

128800元起

文中相关商品

拼多多 奥古狮登厚底老爹鞋女2024夏季透气增高小白鞋百搭运动鞋
7评论

  • 精彩
  • 最新
提示信息

取消
确认
评论举报

相关好价推荐
查看更多好价

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
60
扫一下,分享更方便,购买更轻松