飞牛NAS系统通过ollama部署安装DeepSeek AI使用教程

2025-02-03 18:38:34 26点赞 290收藏 45评论

视频版本:

文字版本:

飞牛NAS系统通过ollama部署安装DeepSeek AI使用教程

首先在飞牛OS设置内开启SSH,使用putty或其它软件登录至飞牛系统

输入飞牛的登录ip,飞牛os的管理员账号,密码,再次输入sudo -i命令,再次输入密码进入root模式

在部署DeepSeek之前,需要安装Ollama,Ollama是大型语言模型框架,可以理解为AI模型的宿主,在部署DS前需要提前安装。

使用curl命令:

curl -fsSL https://ollama.com/install.sh | sh 拉取安装Ollama

在安装过程中遇到网络报错可以按^C中断,然后重新输入curl -fsSL https://ollama.com/install.sh | sh 命令安装,直到安装100%完成

Ollama安装完成后如果有提示No Nvidia or AMDxxx的是飞牛主机没有独立显示导致的,并不影响使用,可以直接忽略

这时候输入:ollama命令,出现这commands提示就可以了

接下来就是安装DeepSeek,具体版本如图,教程演示的是1.5b版本,常用最多的是7b版本。版本越高存储需求越大,对整机性能要求越高。

使用Ollama命令部署ds:ollama run deepseek-r1:1.5b (如果需要7b版本只要把1.5b改为7b即可)

等待安装完成会提示发送信息时,说明DeepSeek部署ok,可以使用了

任意测试了一下,1.5b版本速度较快,但运行结果一般。7b版本速度和推演结果比较适中。

以上多个版本都可以使用Ollama安装,如果存在多个安装版本时,使用Ollama list查看

选择某个版本使用如:ollama run deepseek-r1:7b

小提示:中止运算Ctrl+C,退出DeepSeek Ctrl+D

附件各版本文字说明:

版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)

ollama run deepseek-r1:1.5b

————————————————

版本:7b,DS第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要4.7GB空余空间)

ollama run deepseek-r1:7b

————————————————

版本:8b,(需要4.9GB空余空间)

ollama run deepseek-r1:8b

————————————————

版本:14b,(需要9GB空余空间)

ollama run deepseek-r1:14b

————————————————

版本:32b,(需要20GB空余空间)

ollama run deepseek-r1:32b

————————————————

版本:70b,(需要43GB空余空间)

ollama run deepseek-r1:70b

————————————————

版本:671b,(需要404GB空余空间)

ollama run deepseek-r1:671b

展开 收起
45评论

  • 精彩
  • 最新
  • 飞牛这个docker装的ollama,我折腾了很久,都是概率性地能调用显卡,有时候可以调用,有时候关机再开就调用不了。
    建议各位,还是飞牛里开虚拟机windows10直通显卡,把ollama部署在windows里,然后飞牛docker里装webui就好,windows真的比debian环境好的多。虽说这样虚拟硬盘读写只有个600m/s。有条件直接直通固态吧。

    校验提示文案

    提交
  • 试过家里的2060显卡跑,每秒1-2个字,NAS还是不折腾了。

    校验提示文案

    提交
    我用9代U的核显UHD630 本地配置32b的模型,一秒也能有3,4个字 [抠鼻]

    校验提示文案

    提交
    不可能吧,我另一台RTX5000Ada、i9跑32B-Q8,也就1-2个字

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 还可以讲讲需要啥配置🥺

    校验提示文案

    提交
  • 我的j1900 [大囧]

    校验提示文案

    提交
    j1900的能力是无穷的。不要怂,直接装671b。

    校验提示文案

    提交
    小马拉地球

    校验提示文案

    提交
    收起所有回复
  • 自己部署的会比在线的好用吗?

    校验提示文案

    提交
    会,但是得高版本模型的才行

    校验提示文案

    提交
    性能不够的主机,还是用线上吧

    校验提示文案

    提交
    还有2条回复
    收起所有回复
  • 自己部署是不是很吃设备啊

    校验提示文案

    提交
    会,但是低版本的模型也能凑合用

    校验提示文案

    提交
    谢谢大佬回复

    校验提示文案

    提交
    收起所有回复
  • 不懂这个 本地部署AI的好处是什么 有大佬说说吗

    校验提示文案

    提交
    本地记住你的私密癖好,你说好不好,外人不知道

    校验提示文案

    提交
    比如搭建公文写作的知识库,就需要本地AI,因为你懂得原因。

    校验提示文案

    提交
    还有6条回复
    收起所有回复
  • 不懂,大佬出个完整小白版的教程,求高手答疑解惑

    校验提示文案

    提交
  • 本地部署,ai可以联网吗?还是用部署时候的数据?

    校验提示文案

    提交
    直接部署的话不能联网,只能本地训练和问答,要让ai联网搜索的话貌似得改很多东西,比如把搜索引擎的api写进去之类的,小白基本不用想了,等以后看看有没有大佬发布整合版吧

    校验提示文案

    提交
    那可惜了,又想用本地的又想联网 [皱眉]

    校验提示文案

    提交
    收起所有回复
  • 是否可以在nas上部署调用api的deepseek

    校验提示文案

    提交
  • 跑得起来吗?最低都不行吧

    校验提示文案

    提交
  • 以后 nas 是要往大模型的配置上靠了吗

    校验提示文案

    提交
  • nas没显卡啊部这个意义不大吧

    校验提示文案

    提交
  • 安装成功了,如何卸载ollama

    校验提示文案

    提交
  • 1.5b 不好用的

    校验提示文案

    提交
  • 这玩意现在实际意义不大,在用个10年20年以后才会有点用。

    校验提示文案

    提交
    哪里不大了,像我对js只了解皮毛,它能帮我写油猴脚本 [邪恶]

    校验提示文案

    提交
    收起所有回复
  • nas里跑ai模型,牛人 [赞一个]

    校验提示文案

    提交
  • 安装显卡驱动麻烦,所以放弃

    校验提示文案

    提交
  • 找台老的DellE5试试看,会卡成什么样 [高兴]

    校验提示文案

    提交
  • 什么值得搞

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
290
扫一下,分享更方便,购买更轻松