最全面的deepseek本地化部署教程

第一步：选择部署环境

我是ollama和LLMstudio都部署了，部署以后说说两者优劣。

LLM：

1、部署更简单，自带了webui。

2、连续问了几个问题，容易报错，必须清聊天才能继续。

3、模型可以从其他渠道下载后，加载使用。避免了网络问题。

4、显卡支持更全面，6700XT，不在官方范围，LLM直接调用了。

5、性能相对比Ollama差！

Ollama：

1、部署麻烦些，需要自己再配套webui，但是其实也很简单。

2、更稳定，很少出现不回消息的情况。

3、模型下载暂无离线渠道，必须使用加速器。

4、官网版本只能支持指定显卡，不在范围内的只能用CPU。要调用我的6700XT，需要魔改版。

5、性能比LLM好太多了，同一台电脑。都是14B模型，速度超级快。

LLM的部署很简单，唯一的坑点就是那个本地模型文件的加载，譬如DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf。他要手动新建一个子目录，这里我搞了半天，一开始一直加载不到模型。。。

同时基于ollama的使用体验，后面我只介绍ollama

第二步：完成部署

完成准备环境以及ollama的部署，完成（非官方适配）显卡激活

如果你只准备使用CPU进行计算，那直接去官网下载安装包。（很慢，只能体验一下。）

如果你需要使用显卡计算，那就需要先安装显卡配套驱动。

先安装显卡运行环境

如果是AMD显卡，搜索amd HIP SDK

如果是nvidia，搜索nvidia cuda toolkit。

将驱动安装以后，再安装ollama。

如何判断是否官方支持显卡：

以上是官方支持的AMD显卡。

如果你的显卡在这个清单里，则可以直接安装官方的ollama。

如果你的不在则需要安装魔改的ollama。https://github.com/likelovewant/ollama-for-amd

两个版本的安装流程都是一样。下载后下一步下一步就可以。也不支持修改安装路径，默认就是C盘。然后安装模型就可以。

安装后会出现一个黑色命令行窗口，这个窗口也是以后和deepseek对话的窗口，就很Low，所以需要配webui。

激活非官方支持的显卡

这个网页会展示AMD GPU的型号和对应系列。譬如我的是6700xt，下图对应的就是gfx1031，记住这个系列名称。

https://github.com/likelovewant/ollama-for-amd/wiki/AMD-GPU-Arches-lists-Info

在下面这个网址，找到gfx1031,然后下载这个压缩包。

https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.6.2.4

再把这个压缩包进行解压后，替换魔改的ollama安装文件夹的问题。替换后，重启下电脑，你的显卡就能激活了。

这里也提一下如何判断显卡激活。打开任务管理器，在提问的时候，看是CPU飙升还是GPU飙升，如果GPU飙升，就是显卡激活了。

第三步：模型下载

版本选择

模型有很多个版本，怎么选？

网上的说法挺多，我个人感觉就是拿模型文件大小和你的显存对比，譬如14B模型，9个G，你就必须用大于9G显存的卡，那就是12G显存的显卡了。超出极限会怎么样，我没尝试，尝试的可以回复我。

https://ollama.com/library/deepseek-r1:14b

但是不是在这个页面进行下载。你先选择你要下的模型，譬如我选择14B，右侧就会出现一个命令，点击右边两个正方形叠加的图标，点击复制。

然后回到ollama的黑窗口，粘贴复制的命令，执行后，他就会自动开始下载了。

网络加速

但是每个人都会遇到网络慢的问题，我下的是14B模型，9个G，一开始还有2MB，然后会越下越慢，最后就500KB，要命！

这个我试过用T子，没有用。后来参考B站，用奇游加速器，里面有一个deepseek加速，加速后，可以跑满速度！

奇游加速器不是免费的，右上角输入口令”奇游999“，可以白嫖72小时。

在使用加速器后，同样会遇到越下越慢的问题，如果你看到他慢了，就重启一次加速器。。反复循环。

下载完成后，你就可以在黑窗口和他聊天了！

第四步：配套UI

配套使用UI，就是说没有UI你只能在那个黑窗口聊天。有UI了就能在网页端、PC端、移动端聊了。这里有很多选择，譬如Openui，chatbox等。

我用的是chatbox，支持安卓app，我可以在手机上调我本地部署的模型。

这里网上很多教程说需要手动添加环境变量，实际上我实测是无需手动添加的。我的chatbox直接调用了。

电脑端chatbox

先官网下载chatbox，安装后进行很简单的配置。点击设置，选择ollama API，域名自动出来，选择模型就可以使用了。

第五步：实现局域网访问

实现局域网访问，我是希望局域网手机的chatbox APP也能用。也可以实现外网访问，但是我不可能为了偶尔用下，把我家里台式机24小时开机，所以就不折腾了。

局域网访问必须添加环境变量。在环境变量里添加这两个标红的变量，就可以了。

再在手机上下载chatbox的APP，点击设置，这里和PC的chatbox区别，就是把IP地址，变成你的局域网地址，譬如192.168.1.50，就可以了。

然后你的手机也能用了。

替代选择：

如果你不想折腾，又觉得官网的deepseek老是繁忙。

建议1：使用硅基流动，这是与华为深度合作的一个公司。通过将deepseek部署在华为云上，对外提供服务。

https://cloud.siliconflow.cn/i/DSWeqIj0

以上是邀请注册链接，注册赠送2000万token，可以先用上一段时间。

建议2：其他我最近发现百度搜索，多了一个AI+搜索，挺好用的，针对我的提问还会给出一些推荐。也支持互联网搜索。

写在最后：

1、ollama是否也可以加载已经下载好的本地模型文件，这个我目前没有搞清楚。如果能就可以不用加速器了。

2、针对模型参数的调节，这个还需要补充一篇。

3、实现本地训练，喂一些行业的材料，训练行业模型。目前初步看教程是很简单的一个过程，如果这样，2025是不是真的会有很多小公司来挣这个钱？

4、在GPU云服务器的部署应该差异不大，只是需要对互联网提供访问。

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～