全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

2025-07-03 10:05:31 2点赞 22收藏 0评论

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP + websearch + 图片生成 所有需求一次性搞定。

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

大家好,欢迎来到清华博士带你玩转NAS与AI,这里是星灵技术。首先本期视频含有免费AI福利,详情见评论区置顶。AI篇要讲的内容非常多,所以需要区分板块进行讲解。这个视频同样有进度条,感兴趣的朋友们或者是老手可以自行选择观看进度,让我们开始今天的视频吧。

AI主要分为客户端和服务端两种类型,既然我们都拥有了NAS,那么当然是从服务端开始讲起。

首先服务端可以选用的软件有许多包括但不限于:

ollama, llama studio, gpustack, xinference, localai等等。

首先有的人可能会说AI调用api就可以了,的确,但是我还是强烈建议本地的embeding模型,rerank模型,tts模型等等这些小模型部署在本地提供服务,这样会方便很多,效果也由你自己控制。

这个频道的定位和其他up不一样,他们给你讲技术细节,我的目的是让各位小白快速上手,管你这的那的,干就完了!

好的,这期视频为了用上AI我们就必须了解一个核心软件:cherry-studio

下面是前往该软件的下载链接,请根据你的操作系统进行下载:[Cherry Studio 官方网站 - 全能的AI助手](https://www.cherry-ai.com/)

接下来打开软件,进行核心的配置设置:

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

首先这里可以看到很多AI模型,但是假设你更换了不同电脑或者不同的AI软件那么每次都进行配置是一件非常麻烦的事情,所以我强烈建议大家不要一个一个进行手动配置,而是采用openai兼容形式进行AI的调用这样会省去很多麻烦。

比如说最著名的oneapi还有一大堆衍生项目就是用来做这个的,接下来请我们打开你NAS上面的docker, 然后我个人使用的是onehub这个项目,我们先打开github链接:

[Home · MartialBE/one-hub Wiki](https://github.com/MartialBE/one-hub/wiki)

如果你是绿联或者飞牛,直接黏贴这一个docker compose到你的compose里面一键部署即可,极空间的话需要做路径映射比较折腾我个人不推荐。

version: "3.4"

services:

one-hub:

image: martialbe/one-api:latest

container_name: one-hub

restart: always

ports:

- "3000:3000"

volumes:

- ./data:/data

environment:

- SQL_DSN=oneapi:123456@tcp(db:3306)/one-api # 修改此行,或注释掉以使用 SQLite 作为数据库

- REDIS_CONN_STRING=redis://redis # redis

- SESSION_SECRET=random_string # 修改为随机字符串

- USER_TOKEN_SECRET=random_string # 修改为随机字符串,32位以上

- TZ=Asia/Shanghai

# - HASHIDS_SALT=random_string # 可空,建议设置,字符串元素不能重复

# - NODE_TYPE=slave # 多机部署时从节点取消注释该行

# - SYNC_FREQUENCY=60 # 需要定期从数据库加载数据时取消注释该行

# - FRONTEND_BASE_URL=https://openai.justsong.cn # 多机部署时从节点取消注释该行

depends_on:

- redis

- db

healthcheck:

test:

[

"CMD-SHELL",

"wget -q -O - http://localhost:3000/api/status | grep -o '"success":s*true' | awk -F: '{print $$2}'",

]

interval: 30s

timeout: 10s

retries: 3

redis:

image: redis:latest

container_name: redis

restart: always

db:

image: mysql:8.2.0

restart: always

container_name: mysql

volumes:

- ./data/mysql:/var/lib/mysql # 挂载目录,持久化存储

ports:

- "3306:3306"

environment:

TZ: Asia/Shanghai # 设置时区

MYSQL_ROOT_PASSWORD: "OneAPI@justsong" # 设置 root 用户的密码

MYSQL_USER: oneapi # 创建专用用户

MYSQL_PASSWORD: "123456" # 设置专用用户密码

MYSQL_DATABASE: one-api # 自动创建数据库

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

安装完成以后我们打开页面,进行登录,用户名:root ,密码:123456

然后按照你自己的习惯进行渠道的添加然后设置优先级保存。

我们回到cherry studio进行添加,这个就按照自己拥有的平台添加即可,这里我推荐大家使用gemini的免费api,我后期会出详细的教程如何免费白嫖谷歌的免费AI,由于内容较多,这期视频就先跳过。

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

分享一个很好用的AI平台:硅基流动

邀请链接如下: https://cloud.siliconflow.cn/i/j9t5W2Vj

知识库功能如何使用,点击左侧栏的这里,就可以添加一个你的知识库。

这里最推荐的方案是本地部署embed和rerank模型,我不建议调api。只有你有本地4060以上显卡我就建议本地部署。啥显卡没有也不用玩AI了对吧,现在qwen3-embed-8b是当前最强,具体跑分如下:

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

好的,如何部署呢?方法也很简单,我们先前提到了很多AI服务端,考虑到多数观众目前使用的是windows系统,所以我们采用最简单的lmstudio进行部署,这里推荐一个windows上面最好用的软件商店:联想大厂推出的联想软件商店,软件非常全面安全无毒,防止小白乱下载。

联想商店链接如下:[联想应用商店](https://lestore.lenovo.com/)

下载完打开联想应用商店,搜索lmstudio字眼然后一键安装。

安装完以后打开软件

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

选择这个进行下载安装

然后接下来继续下载另一个模型:打开lmstudio搜索qwen3-rerank-8b.

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

然后选择这个模型进行下载安装

这样就完成了两个模型的安装,然后就可以来到cherry-studio然后找到lmstudio项目添加对应的模型这样就可以添加知识库了。

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

好的,关于网络搜索功能的设置,这里看你个人喜好,我个人就调tavily api,

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

这里点击获取自己创造一个密钥就行了。

好的,关于mcp服务器的调用,首选mcp服务器区分为本地和云服务器版本,本地版本的部署也很简单,后期我会给你分享一个json配置文件,你直接使用就都是本地的。

先前往modelscope官网,然后

云端我推荐modelscope, 然后你自己获取api令牌去同步然后就可以使用了。

好的到此为止,

全网最快0基础AI上手指南——一次性玩转LLM + RAG + MCP

你就可以开始你的AI聊天了,到此为止今天的cherry-studio教程就完成了。一下子满足你从AI聊天加知识库+mcp+网络搜索等等所有功能。

下一期视频我给大家出最近很火的工作流Dify和n8n教程教大家如何每天摆烂在家赚钱,还有智能体agent的相关教程请大家多多一键三连+关注。最后如果是你实在是手残小白也可以直接白嫖我搭建好的AI,直接网页访问即可。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
22
扫一下,分享更方便,购买更轻松