离线免费用 DeepSeek本地傻瓜式安装部署流程

2025-01-29 17:35:39 272点赞 2364收藏 180评论

新年快乐!

这几天虽然过年,但deepseek在科技圈的热度显然超过了春节啊!

离线免费用 DeepSeek本地傻瓜式安装部署流程

目前手机端app虽然能用,但网络和服务端过载,用起来还是很吃力的,况且在线版的还会有很多限制,在高强度使用时肯定是不如本地部署的离线版的。所以我就在自己的独显电脑上搞定了deepseek,而且非常简单!

这个流程我会假设你对编程和命令行操作有一点点了解,虽然很简单,但我也会尽量详细解释每一步。

安装大语言运行框架

离线免费用 DeepSeek本地傻瓜式安装部署流程

Ollama是一个开源的AI工具,支持本地运行各种模型,包括GPT-4、deepseek等。我们要用deepseek就必须要安装运行框架

离线免费用 DeepSeek本地傻瓜式安装部署流程

打开Ollama的官网:ollama.com,或者去github下载(开源的项目),如果你是Windows的话,就下载Windows的版本并安装。

克隆代码仓库 部署大模型

接着,我们可以在Ollama的官网直接打开deepseek大模型的拉取链接,在models里选择deepseek-r1即可。

离线免费用 DeepSeek本地傻瓜式安装部署流程

这时候,我们要根据显卡来选择大小不同的模型,如果你的显卡显存很大,可以选择更大一些。我的显卡是4080,显存是16GB,官方推荐用32b大小的deepseek模型。

离线免费用 DeepSeek本地傻瓜式安装部署流程

复制ollama run deepseek-r1:32b,在cmd中粘贴并enter:

离线免费用 DeepSeek本地傻瓜式安装部署流程

我选的32b大小的deepseek模型,文件大小是19GB,克隆/下载速度还是很快的。

离线免费用 DeepSeek本地傻瓜式安装部署流程

完成后,就环境和大模型就算搭建好了。我们在cmd里可以直接输入ollama run deepseek-r1:32b命令来使用deepseek。

用chatbox搭建界面

但对于大多数没有编程基础的玩家来说,命令行用起来繁琐不够直观,接下来可以通过搭建用户界面来运行。

离线免费用 DeepSeek本地傻瓜式安装部署流程

我选的是开源的chatbox ai工具

离线免费用 DeepSeek本地傻瓜式安装部署流程

去他们官网chatboxai.app/zh或github上下载安装所需的版本。

离线免费用 DeepSeek本地傻瓜式安装部署流程

打开后,模型提供方选择OLLAMA API,模型选择deepseek-r1:32b,完成!

离线免费用 DeepSeek本地傻瓜式安装部署流程

接下来就是愉快的使用过程了。还挺爽!

以上的工具其实都很傻瓜,用起来就是这么简单,对于大多数普通人来说也已经足够使用了。

离线免费用 DeepSeek本地傻瓜式安装部署流程

关于硬盘

离线免费用 DeepSeek本地傻瓜式安装部署流程

尽量选择性能好的、工作稳定性强的固态硬盘,因为deepseek的模型都是十几GB甚至几十、上百GB的单文件,需要解包并读取小文件,对硬盘的4K随机读取性能要求不低,越快的SSD能提供不拖后腿的读取性能,生成速度也能达到显卡的性能极限。

离线免费用 DeepSeek本地傻瓜式安装部署流程

我用的是新推出的佰维X570 Pro固态硬盘,它走的是PCIe5.0通道:

离线免费用 DeepSeek本地傻瓜式安装部署流程离线免费用 DeepSeek本地傻瓜式安装部署流程

在windows平台上实测可以轻松达到14164MB/s和12884MB/s的顺序读写性能,以及101.44MB/s和350.23MB/s的随机4K单线程读写性能,其随机读写性能达到了约2033K IOPS和1790K IOPS,超越了其标称值,性能十分强悍,对比PCIe4.0的固态可谓翻倍提升,无论AI或办公娱乐都很牛!

更何况,它的价格相比同级别的海内外大牌PCIe5.0固态硬盘也颇具优势,最高4TB一步到位,非常爽!

感兴趣的朋友可以购买升级!

显卡可以选这几个

显存大小真的很重要……现在4070TI S 16G的显卡算是价格比较合理的选择,推荐!

现在这个时代,关于“AI是否能替代我们”这样事情,其实大可不必惊恐,面对AI唯有为我所用才能让自己立于有利位置,毕竟AI也是人做出来的,不是吗?

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
180评论

  • 精彩
  • 最新
  • 安装14b成功,cpu是amd的ryzen5 1400,主频3.2Ghz,内存16gb。运行以后,cpu被独占了53%。内存被占用了10G,显卡为radeon550、4G显存,没有任何参与deepseek运算。输出的内容就像一个打字不太熟练的人员在一个字一个字的往上敲,可以接受。还没有安装chat box,后面再试一试。

    校验提示文案

    提交
    我试了一下,感觉4080显卡的利用率也是很低的,不知道是不是驱动的问题

    校验提示文案

    提交
    我也是,我cpu是amd 7900x直接干满了,gpu占用很少

    校验提示文案

    提交
    还有7条回复
    收起所有回复
  • 本地部署对电脑要求很高,不到32b都还不够智能。所以还是下个chatbox调用api比较好。
    现在deepseek官方api被攻击无法注册(送10元),大家可以到硅基流动(去看看 )注册一个,互助一下,无需实名,注册就送14元,他们有满血版本,还可以免费用deepseek新出的文生图Janus(可以让r1写提示词,感觉还能用),按照现在DeepSeek R1价格可以怒写87万字,切V3模式:狂聊1400万字,大家可以搞个玩玩,反正14元够用很久,自己的私有api要自由很多。

    校验提示文案

    提交
  • 比起开源的训练方法,模型其实也很重要。
    看似中美是在博弈算法,但背后的用户群争夺以及各自模型内容的话语权才是关键。

    校验提示文案

    提交
  • ꧁❦༺《中西医精华》༻❦꧂
    有五种咳。一曰风咳,欲语因咳,
    言不得竟是。二曰寒咳,饮冷食,
    寒入注胃,从肺脉上气,内外合,
    因之而咳是。三曰支咳,心下坚满
    ,咳则引痛,其脉反迟是。四曰肝
    咳,咳而引胁下痛是。五曰心咳,
    咳而唾血,引手少阴是。

    校验提示文案

    提交
    硅基流动里申请API密钥,就相当于在运行deepseek的服务器上插了根专线,就彻底和服务器不响应告别了。现在邀请新人,注册就送2000万tokens,相当于14元,足够用了,值得注册下去看看

    校验提示文案

    提交
    收起所有回复
  • 看到显卡有要求,再看看我用了十来年的电脑,还是算了

    校验提示文案

    提交
    确实有要求

    校验提示文案

    提交
    没啥问题,我R7 8845核显机器一样跑,1.5b的要求很低,我机器14b的也能跑

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 32b,14b那些模型不能叫 deepseek 吧。

    校验提示文案

    提交
    能拿来用就行 [傻笑] 我试试大的OK不OK

    校验提示文案

    提交
    14b 基本能用 30 可用了

    校验提示文案

    提交
    还有2条回复
    收起所有回复
  • 用deep seek编写一个程序自动切换离线和在线版

    校验提示文案

    提交
    越来越好玩了

    校验提示文案

    提交
    收起所有回复
  • AMD粉,CPU和显卡都是A家的,已经部署好了Ollama,正在拖14b的数据库,只有16g内存,32b的实在是不敢领教。

    校验提示文案

    提交
    试试看

    校验提示文案

    提交
    收起所有回复
  • 本地部署可以问在线不让问的问题么?

    校验提示文案

    提交
    有些应该可以。没记错的话,8b的是脸书的模型7b、14b、32b是阿里的模型。

    校验提示文案

    提交
    有破限的模型,可以在网上搜一搜,这里不能说 [邪恶]

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 电脑太破玩不来吧

    校验提示文案

    提交
    目前看 得有独显

    校验提示文案

    提交
    不见得,基本要求在内存,独显不是必须,在我的AMD 8845HS处理器上,负载集中在cpu上,一秒大约2-3词,还在尝试a卡加速

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 可以自己训练相关专业模型吗

    校验提示文案

    提交
    当然可以 但这些工具不行

    校验提示文案

    提交
    收起所有回复
  • 感觉整了半天,对硬件的需求是越来越大,以前是普通人不去玩,现在门槛降低,更多人去搞这个

    校验提示文案

    提交
    之前stable diffusion刚火起来的时候 部署还是很麻烦的 后来出了傻瓜安装包就简单多了

    校验提示文案

    提交
    收起所有回复
  • 更喜欢你的那个雪王

    校验提示文案

    提交
    嘿嘿 谢谢支持呀

    校验提示文案

    提交
    收起所有回复
  • 国货之光啊,必须顶起来哦

    校验提示文案

    提交
    必须支持!

    校验提示文案

    提交
    收起所有回复
  • 我想知道本地部署如果选的模型太小,比如7gb那个,会不会不如在线的好用?

    校验提示文案

    提交
    很差 [无语] [傻笑]

    校验提示文案

    提交
    [尴尬] 哈哈,果然还是不折腾了,毕竟只是偶尔需要辅助提供些思路

    校验提示文案

    提交
    收起所有回复
  • 实在不懂本地化部署有啥用,普通用户有啥涉密的内容

    校验提示文案

    提交
    瞎折腾呗 [傻笑]

    校验提示文案

    提交
    收起所有回复
  • 想装在电脑上,但看到对显卡有要求,应该是装不了

    校验提示文案

    提交
    嗯 看自己需求 用app体验最佳

    校验提示文案

    提交
    收起所有回复
  • 装备太拉垮,完全玩不了,不过你这篇真心有用了,借楼说一句,还是中国人牛啊,无心插柳整成科技大佬了

    校验提示文案

    提交
    嘿嘿 换设备换设备。另外,这肯定是厚积薄发的结果

    校验提示文案

    提交
    收起所有回复
  • tesla m40能跑不,有两个24gb的

    校验提示文案

    提交
    我没有用过…

    校验提示文案

    提交
    部署一个1.5b 的,对机器要求不高

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 本地部署比在线用有什么优势??

    校验提示文案

    提交
    隐私,不依赖网络。

    校验提示文案

    提交
    自由度高一些

    校验提示文案

    提交
    还有1条回复
    收起所有回复
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
2.3K
扫一下,分享更方便,购买更轻松