DeepSeek R1 我可以进行本地部署吗?

2025-02-04 11:41:34 6点赞 92收藏 7评论

一、总结

当然不可以,土豪的话当我没讲DeepSeek R1 我可以进行本地部署吗?

二、写在前面

自从 Deepseek-r1 爆火,B站上就爆出了一大批视频,教学 r1 模型的本地部署,不限配置,但是呢,稍微动脑想想,这都是不可能的,为什么大家会有如此的概念,感觉自己部署的就是 r1 呢?可能是来自于 Ollama 的干扰。

DeepSeek R1 我可以进行本地部署吗?

但是呢,Ollama 的介绍中也写明了,这其中,有六个是基于 Llama 和 Qwen 从 DeepSeek-R1 提炼出的六个密集模型。

DeepSeek R1 我可以进行本地部署吗?

意思也就是1.5b,7b,8b,14b,32b以及70b这些模型并非真 DeepSeek-R1,真 DeepSeek-R1 只有 671b 模型

所以说,真正的 R1 模型需要的硬件水平并非大多数人可以承受的,根据极客湾云飞估计,部署DeepSeek-R1 671b需要至少10张 H100 显卡,且不说能不能买得到,但就价格就已经让多数人望尘莫及了。DeepSeek R1 我可以进行本地部署吗?

三、本地部署的意义

为什么还是有人需要本地部署呢?本地就意味着非联网的,你可以把自己的数据存留在本地,适用于一些私密性的内容训练,或者说不适用于公开信息的内容训练。

例如:政府部门、大型国有企业。

四、本地部署

我可以部署一个小模型玩儿玩儿么?

当然可以,根据你自身的实际硬件情况,DeepSeek-R1 还提供了精炼模型。

以我自身实际配置举例:

CPU:i5-12400F

GPU:RXT 1660(6G)

RAM:32G

综上,我选择了8b模型

部署步骤:

Ollama 首先下载并安装 Ollama

DeepSeek R1 我可以进行本地部署吗?

就跟正常软件安装一样,下载完成安装包即可安装。

安装完成之后,打开CMD,输入ollama,如出现如下提示即表示安装成功

DeepSeek R1 我可以进行本地部署吗?

再次打开 ollama 网站,搜索 deepseek-r1,复制如下代码

ollama run deepseek-r1:8b

DeepSeek R1 我可以进行本地部署吗?

并将其粘贴入命令行中,回车后,模型就自动开始下载了

DeepSeek R1 我可以进行本地部署吗?

只要网络环境好,整个过程还是很丝滑的

问题

部分人下载完成后可能会出现如下问题

DeepSeek R1 我可以进行本地部署吗?

系统提示错误

Error: Post "http://127.0.0.1:11434/api/show": dial tcp 127.0.0.1:11434:connectex:No connection could be made because the target machine actively refused it.

解决办法很简单

配置环境变量

我的电脑-属性-高级系统设置-环境变量

在用户变量中新建如下变量,值为*

DeepSeek R1 我可以进行本地部署吗?

之后再重新运行上段代码

DeepSeek R1 我可以进行本地部署吗?

直到出现 success ,即表示安装成功,这时你就可以直接在其中进行对话了,是不是还挺简单的呢?

DeepSeek R1 我可以进行本地部署吗?

你好!我是一个AI助手,由中国的深度求索(DeepSeek)公司独立开发,我没有个人身份,但随时准备为您提供帮助和信息。有什么我可以为您效劳的吗?

这是一份来自于 deepseek-r1:8b 模型给出的自我介绍,对比一下官网在线版

DeepSeek R1 我可以进行本地部署吗?

显然,模型大了确实是不一样的

大家好!我是一个AI助手,由中国的深度求索(DeepSeek)公司开发,专注于用通用人工智能技术帮助用户高效获取信息、解决问题。我的能力涵盖知识问答、逻辑推理、创意激发等多个领域,并且支持多语言交互。通过持续学习更新知识库,我会努力提供更准确、实用的帮助。无论是学习、工作还是生活中的问题,欢迎随时向我提问哦!

可以看出,连思考的过程以及内容也是不一样的,但是,你如果是用来训练自己的知识库的话,我觉得这也足够使用了,运行过程中系统的占用情况如下

DeepSeek R1 我可以进行本地部署吗?

显存占用 5.1GB,共享内存占用 1.9GB 还是有冗余的,本地回答过程不能说丝滑

五、尾巴

这篇文章基本上可以解答大多数人的疑惑了,编写过程难免错漏,如各位大佬发现谬误之处,请及时在评论区予以指出,不胜感谢!DeepSeek R1 我可以进行本地部署吗?

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
7评论

  • 精彩
  • 最新
  • 什么样的电脑配置对应什么版本?

    校验提示文案

    提交
    主要看显卡显存了
    像我这6G的显存玩儿8b轻松拿捏,14b的话12G显存起底依次类推 [高兴]

    校验提示文案

    提交
    ollama run deepseek-r1:5b(建议4G-8G显存)
    ollama run deepseek-r1:7b(建议8G显存)
    ollama run deepseek-r1:8b(建议8G显存)
    ollama run deepseek-r1:14b(建议12G显存)
    ollama run deepseek-r1:32b(建议24G显存)
    ollama run deepseek-r1:70b(建议32G以上显存)

    校验提示文案

    提交
    收起所有回复
  • 每秒多少token?笔记本4070能部署吗?我每分钟100左右文字就能接受了。

    校验提示文案

    提交
    token对与本地部署意义应该不大吧,部署完成后对于显存的占用比较多,计算量反而不多,最后的视频就是基于我目前配置的实际回答速度,没有经过变速处理

    校验提示文案

    提交
    不能图片评论了,目前问答的实际速度大约是 5.15 tok/s

    校验提示文案

    提交
    收起所有回复
  • 整个部署过程还是很简单明了的,有兴趣的小伙伴可以尝鲜哦 [高兴]

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
相关好价
最新文章 热门文章
92
扫一下,分享更方便,购买更轻松