用ollama在win系统本地部署deepseek
流程说明:
其实很简单,就3步:
下载Ollama用于本地运行大模型
在Ollama library中获取开源的DeepSeek大模型,并用Ollama运行
用open-WebUI生成美观的本地浏览器可访问界面
Step1. Ollama下载
在powershell中(需要以管理员身份运行)为系统环境变量添加名为OLLAMA的环境变量,提前分配好其安装位置(模型很大,不设置环境变量的话默认是把模型装在C盘):


编辑
配置完成后在ollama官网下载其window发行版:Download Ollama on macOS
检查是否安装成功(注意同样需要在管理员模式下运行powershell):


编辑
可以看到这个时候已经出现了可以被系统识别的ollama命令。
Step2. 用Ollama获取并运行deepseek-r1
访问自定义Ollama安装路径-语义熔炉以获取想要下载的模型,有不同参数量的模型可供考虑,对计算机存储的要求也不同,这里选择参数量为8b的模型,这样虽然推理能力不咋样,文字生成速度还行。

参数选择的右侧有一行‘ollama run deepseek-r1:8b’高度封装的命令,直接将其复制到管理员权限下的powershell运行,即可安装8b的deepseek-r1;如果已经安装了就是直接运行。运行结果如下,用经典弱智吧问题进行测试,感觉deepseek没有通过图灵测试(狗头)

Step3. 用docker安装Open-WebUI以生成本地网页
ollama安装到c盘以外此部分参考:自定义Ollama安装路径-语义熔炉
通过docker下载Open-WebUI的命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
每次重启电脑后只要保证 Docker 服务正常运行,就可以通过 http://localhost:3000 访问 Open WebUI 应用(第一次使用也需要重启电脑)。
Step4. 效果预览
在浏览器输入http://localhost:3000就可以进行对话:

又是经典的弱智吧问题,R1彻底完败!全体起立!为人类的智慧鼓掌!
