什么值得买App下载 App ›
连续签到专享现金活动

飞牛NAS系统通过ollama部署安装DeepSeek AI使用教程

25-02-03

视频版本:

文字版本:

飞牛NAS系统通过ollama部署安装DeepSeek AI使用教程

首先在飞牛OS设置内开启SSH,使用putty或其它软件登录至飞牛系统

输入飞牛的登录ip,飞牛os的管理员账号,密码,再次输入sudo -i命令,再次输入密码进入root模式

在部署DeepSeek之前,需要安装Ollama,Ollama是大型语言模型框架,可以理解为AI模型的宿主,在部署DS前需要提前安装。

使用curl命令:

curl -fsSL https://ollama.com/install.sh | sh 拉取安装Ollama

在安装过程中遇到网络报错可以按^C中断,然后重新输入curl -fsSL https://ollama.com/install.sh | sh 命令安装,直到安装100%完成

Ollama安装完成后如果有提示No Nvidia or AMDxxx的是飞牛主机没有独立显示导致的,并不影响使用,可以直接忽略

这时候输入:ollama命令,出现这commands提示就可以了

接下来就是安装DeepSeek,具体版本如图,教程演示的是1.5b版本,常用最多的是7b版本。版本越高存储需求越大,对整机性能要求越高。

使用Ollama命令部署ds:ollama run deepseek-r1:1.5b (如果需要7b版本只要把1.5b改为7b即可)

等待安装完成会提示发送信息时,说明DeepSeek部署ok,可以使用了

任意测试了一下,1.5b版本速度较快,但运行结果一般。7b版本速度和推演结果比较适中。

以上多个版本都可以使用Ollama安装,如果存在多个安装版本时,使用Ollama list查看

选择某个版本使用如:ollama run deepseek-r1:7b

小提示:中止运算Ctrl+C,退出DeepSeek Ctrl+D

附件各版本文字说明:

版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)

ollama run deepseek-r1:1.5b

————————————————

版本:7b,DS第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要4.7GB空余空间)

ollama run deepseek-r1:7b

————————————————

版本:8b,(需要4.9GB空余空间)

ollama run deepseek-r1:8b

————————————————

版本:14b,(需要9GB空余空间)

ollama run deepseek-r1:14b

————————————————

版本:32b,(需要20GB空余空间)

ollama run deepseek-r1:32b

————————————————

版本:70b,(需要43GB空余空间)

ollama run deepseek-r1:70b

————————————————

版本:671b,(需要404GB空余空间)

ollama run deepseek-r1:671b

评论 45

一夜鱼龙舞呀

飞牛这个docker装的ollama,我折腾了很久,都是概率性地能调用显卡,有时候可以调用,有时候关机再开就调用不了。 建议各位,还是飞牛里开虚拟机windows10直通显卡,把ollama部署在windows里,然后飞牛docker里装webui就好,windows真的比debian环境好的多。虽说这样虚拟硬盘读写只有个600m/s。有条件直接直通固态吧。

广东
szseer

试过家里的2060显卡跑,每秒1-2个字,NAS还是不折腾了。

广东
蓝F0X狐

我用9代U的核显UHD630 本地配置32b的模型,一秒也能有3,4个字 [抠鼻]

日本
szseer

不可能吧,我另一台RTX5000Ada、i9跑32B-Q8,也就1-2个字

广东
Jayce

还可以讲讲需要啥配置🥺

内蒙古
Initialize

不懂这个 本地部署AI的好处是什么 有大佬说说吗

江苏
网络咖啡吧

比如搭建公文写作的知识库,就需要本地AI,因为你懂得原因。

山东
数码爱好

不懂,大佬出个完整小白版的教程,求高手答疑解惑

江苏
闪开我来组成头部

本地部署,ai可以联网吗?还是用部署时候的数据?

广西
值友5804725840

直接部署的话不能联网,只能本地训练和问答,要让ai联网搜索的话貌似得改很多东西,比如把搜索引擎的api写进去之类的,小白基本不用想了,等以后看看有没有大佬发布整合版吧

广东
jnykjva用户头像挂件

是否可以在nas上部署调用api的deepseek

重庆
地狱赞歌用户头像挂件

跑得起来吗?最低都不行吧

浙江
张小荣

以后 nas 是要往大模型的配置上靠了吗

江苏
高光GGG用户头像挂件

nas没显卡啊部这个意义不大吧

上海
[已注销]

这玩意现在实际意义不大,在用个10年20年以后才会有点用。

辽宁
精神肥宅

哪里不大了,像我对js只了解皮毛,它能帮我写油猴脚本 [邪恶]

福建
数字工

nas里跑ai模型,牛人 [赞一个]

内蒙古
杰然亦申

安装显卡驱动麻烦,所以放弃

河北
aoe0317

找台老的DellE5试试看,会卡成什么样 [高兴]

浙江
小新2

什么值得搞

广东