用ollama在win系统本地部署deepseek

2025-02-13 21:16:34 0点赞 6收藏 0评论

流程说明:

其实很简单,就3步:

  1. 下载Ollama用于本地运行大模型

  2. 在Ollama library中获取开源的​​​​​​​DeepSeek大模型,并用Ollama运行

  3. 用​​​​​​​open-WebUI生成美观的本地浏览器可访问界面

Step1. Ollama下载

在powershell中(需要以管理员身份运行)为系统​​​​​​​环境变量添加名为OLLAMA的环境变量,提前分配好其安装位置(模型很大,不设置环境变量的话默认是把模型装在C盘):

用ollama在win系统本地部署deepseek

用ollama在win系统本地部署deepseek

编辑

配置完成后在ollama官网下载其window发行版:Download Ollama on macOS

检查是否安装成功(注意同样需要在管理员模式下运行powershell):

用ollama在win系统本地部署deepseek用ollama在win系统本地部署deepseek

​编辑

可以看到这个时候已经出现了可以被系统识别的ollama命令。

Step2. 用Ollama获取并运行deepseek-r1

访问自定义Ollama安装路径-语义熔炉以获取想要下载的模型,有不同参数量的模型可供考虑,对计算机存储的要求也不同,这里选择参数量为8b的模型,这样虽然推理能力不咋样,文字生成速度还行。

用ollama在win系统本地部署deepseek

参数选择的右侧有一行‘ollama run deepseek-r1:8b’高度封装的命令,直接将其复制到管理员权限下的powershell运行,即可安装8b的deepseek-r1;如果已经安装了就是直接运行。运行结果如下,用经典弱智吧问题进行测试,感觉deepseek没有通过图灵测试(狗头)

用ollama在win系统本地部署deepseek

Step3. 用docker安装Open-WebUI以生成本地网页

ollama安装到c盘以外此部分参考:自定义Ollama安装路径-语义熔炉

通过docker下载Open-WebUI的命令:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main用ollama在win系统本地部署deepseek

每次重启电脑后只要保证 Docker 服务正常运行,就可以通过 http://localhost:3000 访问 Open WebUI 应用(第一次使用也需要重启电脑)。

Step4. 效果预览

在浏览器输入http://localhost:3000就可以进行对话:

用ollama在win系统本地部署deepseek

又是经典的弱智吧问题,R1彻底完败!全体起立!为人类的智慧鼓掌!

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
6
扫一下,分享更方便,购买更轻松