五分钟搞定! DeepSeek本地部署详细指南!

2025-02-12 18:04:38 0点赞 13收藏 0评论

相信大家最近在使用deepseek的时候,经常会遇到这种服务器繁忙无法回答的情况。要想解决这个问题,除了不断刷新重试外,你还可以把它部署到你的本地电脑中,这样就算是电脑没联网也可以放心使用了!

安装步骤

一、Ollama 简介

Ollama: 在本地运行 Mistral、Llama 3.3、DeepSeek R1 等大语言模型的开源工具

官网地址 https://ollama.com/

主要优势:

  • 一行命令搞定大模型部署

  • 完全本地运行,保护隐私

  • 支持 Mac、Windows、Linux 系统,快速上手

  • 响应速度快,支持GPU加速(GPU英文全称Graphic Processing Unit,中文翻译为“图形处理器”。我们通常就叫它显卡

二、Ollama 下载、安装和部署

点击download,进入下载页,有3个版本:Mac,Linux,Windows版本。为方便大众使用,本教程只讲述:Windows版本本地化安装和部署。

图片图片

注意:电脑系统版本要求windiws10已以上

1、下载到本地

图片图片

出现上面的页面别慌,请移步百度云盘解锁。链接:

https://pan.baidu.com/s/1rK-uGiabslL2E93iceR_1g?pwd=yyds 提取码: yyds

2、双击运行 OllamaSetup.exe

图片图片

3、点击 install,安装需要一定时间

图片图片

注意:默认安装在C盘,如果想运行模型在其它磁盘,建议通过软链接方式同步到其它磁盘。相应的我们将对应的Ollama运行主程序,大模型运行,日志文件放到指定磁盘.

4、验证安装是否成功

快捷键 Windows+R , 打开cmd命令窗口,输入

C:Usersadmin>ollama -v

ollama version is 0.5.7

出现版本号,即为安装成功

图片图片

三、选择 DeepSeek R1模型

1、选择模型

图片图片

2、参数说明

在 AI 模型(如 DeepSeek-R1)中,参数数量(例如 1.5b、7b、14b 等)是指模型中可训练的参数总数。这些参数是模型通过学习数据来调整的权重,用于捕捉数据中的模式和规律。参数数量通常用来衡量模型的规模和复杂度:

1.5b:15 亿个参数。

7b:70 亿个参数。

14b:140 亿个参数。

32b:320 亿个参数。

70b:700 亿个参数。

671b:6710 亿个参数。

...

一般来说,参数数量越多,模型的表达能力越强,能够处理更复杂的任务,但同时也会对硬件资源(如 GPU 内存、计算能力)要求更高。

3、模型和硬件参数对应关系参考

image.pngimage.png

2025年最火AI大模型DeepSeek资源资料汇总」:

https://pan.quark.cn/s/c20959f9118b

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
13
扫一下,分享更方便,购买更轻松