用本地AI打造个人知识库:DeepSeek + Cherry Studio 实战指南
本地部署 deepseek,轻松上手个人 AI 知识库
经常看我的朋友都知道,我其实做了很多有关软路由或者虚拟机相关的教程。在教程的制作中,一个合适的Markdown 笔记管理软件,是必不可少的。 从开始到现在,基本上积攒了上百篇素材。
正好趁着现在大火的推理模型,来看一看,是否满足我日常查找的需求(不满足?)
硬件准备
丐版 mac mini m4 去年国补的时候 4198 入的万兆款。
软件准备
ollama
cherry studio 这两个软件都是 win/mac 双版本,有很好的可视化界面,ollama部署可能只需要一条命令,deepseek 出这么久了,部署的话,大家应该都很容易上手,我这里在特别说明一下,方便第一次上手本地部署的朋友。
所用模型
推理模型:deepseek-r1:8b 基本上这个模型还是非常流畅的 20token/s,14b参数的丐版 mac 也能跑,速度减半。使用下来,感觉两个模型,基本上对我的文字总结来说,大差不差,都可以用。
嵌入模型:bge-m3 这个模型据说对中文支持较好,使用下来总体还可以,用来负责对我的文档进行拆分,方便模型去理解。
模型部署
安装 ollama 后,打开终端,输入以下两个命令
ollama run deepseek-r1:8b

ollama run deepseek-r1:14b
如果配置比较高的话,推荐部署更多参数的模型。

最后的一点可能下载有点慢,大家耐心等待 在安装完成后,可以直接对话,可以看到,本地 deepseek 已经部署成功了。

嵌入模型部署
ollama pull bge-m3
AI 知识库搭建
这里采用Cherry Studio,中文非常友好,而且上线了知识库功能,支持直接引用本地文件夹。
选择模型
在模型选择上,除了本地的 ollama 以外,其他我全部都不勾选。

添加模型
如果这里你在 ollama 中添加了多个模型,这里也会显示多个模型

添加完成

知识库添加
因为obsidian 的md 格式文档,基本直接引用整个文件夹,速度还是很快的。

知识库选择
引用完成后,需要在对话助手中,将引用的知识库勾选上。

真实模拟
这时候,就可以看到,已经将我的知识库应用到回答当中了。

至此,初级的个人 AI 知识库已经搭建完毕了。 想折腾的可以玩玩,但是真用的话,还是建议直接使用官方的 api。 以上
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

折腾这快乐着折腾
)
校验提示文案
我中奖了么
校验提示文案
值友2108555769
校验提示文案
懂不懂
校验提示文案
joeyzhou1980
校验提示文案
sabin34
校验提示文案
风夜月影
校验提示文案
懂得季节
校验提示文案
懂得季节
校验提示文案
风夜月影
校验提示文案
joeyzhou1980
校验提示文案
懂不懂
校验提示文案
值友2108555769
校验提示文案
sabin34
校验提示文案
折腾这快乐着折腾
)
校验提示文案
我中奖了么
校验提示文案