52
64
零基础本地部署 DeepSeek 大模型，从环境搭建到运行，一步到位
2026-03-31 12:47:03
1点赞
2收藏
1评论
一、前言
本地部署大模型，是实现离线使用、数据安全、隐私可控的最佳方式。本教程面向零基础用户，无需专业代码能力，只需按步骤操作，即可在个人电脑上完成 DeepSeek 模型的完整部署与运行。
二、硬件与系统要求
- 显卡：NVIDIA 独立显卡，显存 ≥16GB（推荐 24GB 及以上）
- 内存：≥16GB
- 硬盘：剩余空间 ≥50GB
- 系统：Windows 10/11 专业版
- 必备环境：Python 3.10+、Git、CUDA 11.7+
满足以上条件即可流畅运行轻量化量化版 DeepSeek 模型。
三、部署整体流程
1. 安装基础环境（Python + Git + CUDA）
2. 创建虚拟环境，安装依赖库
3. 下载 DeepSeek 量化模型文件
4. 编写运行代码
5. 启动 WebUI 界面
6. 本地浏览器访问使用
四、环境搭建步骤
1. 打开 CMD，创建虚拟环境
python -m venv deepseek-env
2. 激活环境
deepseek-envScriptsactivate
3. 安装 PyTorch
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
4. 安装模型与界面依赖
pip install transformers accelerate sentencepiece gradio
五、模型下载与存放
1. 前往 Hugging Face 下载 DeepSeek-R1-7B-Chat 量化版（Q4_K_M）
2. 在电脑新建文件夹 deepseek-model
3. 将所有模型文件放入该文件夹
4. 路径不能有中文、空格、特殊符号，否则加载失败
六、核心运行代码
新建文件 run.py ，粘贴以下代码：
python
from transformers import AutoTokenizer, AutoModelForCausalLM
import gradio as gr
model_path = "./deepseek-model"
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(
model_path,
device_map="auto",
trust_remote_code=True
)
def chat_response(message, history):
inputs = tokenizer(message, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=512)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
return response
with gr.Blocks() as demo:
gr.ChatInterface(chat_response)
demo.launch(server_name="0.0.0.0", server_port=7860)
七、启动与使用
1. 在 CMD 中进入代码所在目录
2. 运行命令：
python run.py
3. 等待模型加载完成
4. 打开浏览器访问：
http://127.0.0.1:7860
5. 即可开始离线对话
八、常见问题与解决
1. 显存不足：更换 4-bit 量化模型
2. 加载失败：检查路径是否含中文
3. 依赖报错：重新执行 pip 安装命令
4. 无法启动：关闭防火墙、更换端口
九、总结
本地部署 DeepSeek 不仅能实现完全离线、隐私安全，还能自由定制功能、无调用次数限制。通过本教程，零基础用户也能轻松搭建属于自己的本地大模型，实现高效、安全、自由的 AI 使用体验。
