实战揭秘：如何玩转RAG与Deepseek？

省流方法：

使用官方的api进行接入，比如利用硅基流动或者阿里云的api实测目前有一定官方免费额度而且比较流畅，如果是windows客户端的话直接下载cherry studio是最为便捷的。

下载链接我放在这里，供大家自行取用：Cherry Studio - 全能的AI助手

然后第二简单的就是ollama和lmstudio，其中ollama 使用方法类似于命令行方式：

先去官网下载ollama

lmstudio具有GUI，用起来很直观。api如何获取我默认大家都会了，硅基流动和阿里的基本上都是一键获取，可以接入Deepseek-r1以及qwen-max.不会的话我下期再出白嫖各种api的教程。

但是以上系统具有一个缺点，就是不方便接入自己的知识库系统，所以如果有RAG需求的话推荐使用dify或者anythingllama。这里两个软件一般采用Docker的形式部署，我给出一个比较简单的教程：

使用RAG也很简单，整个过程不到5分钟，点点鼠标就行，不需要懂命令。

那就是利用casaos 直接一键傻瓜式安装这两个软件，安装casaos的命令如下：

curl -fsSL https://get.casaos.io | sudo bash

casaos适用于基于debian的系统，例如ubuntu，是的，包括大家都在用的飞牛系统，访问81端口即可。但是需要注意安装以后需要重新进行路径的映射，具体方法如下：

更改具体位置为飞牛NAS的真实路径即可，然后重新部署一下。
anythingllama配置较为简单，可以使用你有的AI渠道自行配置，embed模型这里可以使用本地安装的ollama docker，同样是在casaos里面一键安装，可以根据你的显卡自行选择，有amd和nvidia和cpu三个版本。

这里会自行识别，前面随便用ollama pull bge-m3即可。

这里在casaos里面点击终端，输入命令ollama pull bge-m3

然后一切设置完毕，进入anythingllama上传你的文件即可，点击工作区的上传按钮

上传你的文档，移动到对应工作区就会自动进行嵌入处理，等一会就可以和文档对话了。

点赞出下期关于Local ai和xinference接入dify的对应教程，这两个docker软件相比ollama支持超多种类的AI模型，包括视觉和rerank, whisper等等。

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～