什么值得买App下载 App ›
连续签到专享现金活动

从 0 到 1 部署本地大模型,并接入 Obsidian,打造 AI 知识库

随着大语言模型(LLM)的迅猛发展,ChatGPT、DeepSeek、Qwen 等工具已深刻改变了工作与生活方式。然而,依赖云端 API 常伴随着隐私泄露风险、调用费用、网络限制及速率限制等问题。本地部署大模型是解决上述痛点的方案,能够实现数据本地存储保障隐私安全、无限次免费使用无需担心 Token 消耗、完全离线可用以及支持自定义 Prompt、微调或接入本地知识库(RAG)。本文将介绍如何利用 Ollama 部署本地大模型,并接入 Obsidian 打造 AI 知识库。
01Ollama 安装与配置
在众多本地部署软件中,Ollama 因其简单易上手的特点,适合普通人使用。安装过程如下:访问 Ollama 官网,根据操作系统(macOS、Linux、Windows)下载对应版本并按常规软件流程安装。安装完成后需进行核心配置:
  • 网络设置:若仅计划本地使用,可关闭“使用 Ollama 在线服务”;根据需求决定是否开启“允许自动更新”及“允许局域网访问 API”。
  • 存储路径:建议将大模型存放位置设置在容量较大的盘符(如 D 盘)。
  • 上下文长度:需根据电脑配置调整,配置较低时设置过大可能导致运行卡顿,设置完成后点击 Saved 保存。
02模型下载与管理
模型下载可通过软件界面或命令行两种方式完成。在软件首页点击右下角模型选项,选择带有下载图标的模型(如 deepseek-r1:8b),发送一条信息即可自动下载并使用。
使用命令行下载需先在官网 Models 页面选择模型并复制安装命令。基本格式为 ollama run [模型名称]。若需指定参数版本,可在名称后添加参数,例如 ollama run deepseek-r1:7b。在 Windows 系统中,按 Win+R 输入 CMD 打开命令提示符,粘贴命令即可开始下载。常用的管理命令包括:
  1. 查看模型列表:ollama list
  2. 删除模型:ollama rm [模型名称]
03接入 Obsidian 应用
完成本地部署后,可将模型接入 Obsidian 以增强笔记管理功能。具体操作步骤如下:
  1. 进入 Obsidian 设置,在“第三方插件”中浏览并安装“Copilot”插件,随后启用该插件。
  2. 点击 Model 选项中的 Add Model 添加模型。在对话框中,Model Name 填写下载的模型名称,Provider 选择 Ollama,Base URL 填写 http://localhost:11434,点击下方 Add Model 保存。
  3. 切换回 Basic 选项,在 Default Chat Model 中选择刚才添加的模型设为默认。
配置完成后,在 Obsidian 左侧工具栏点击聊天图标,即可在右侧对话框中使用大模型对笔记进行分析、总结、查找或修改。此外,该接入方式同样适用于 OpenWebUI 等其他支持大模型的项目。

评论

评论区空态插画

当前文章无评论,是时候发表评论了