在NAS上使用「DeepSeek」? 这才是靠谱的方案!文末有福利!

2025-02-24 18:03:13 10点赞 87收藏 1评论

Hello,我是致力于把NAS搞冒烟的青柠

👋最近在NAS圈子里刷屏的「DeepSeek」大模型🔥,相信很多小伙伴都跃跃欲试了吧?但面对动辄几十GB的模型文件和复杂的部署流程,不少人在NAS上直接跑模型时都遭遇了显存告急⚠️、响应延迟⌛的尴尬——别慌!经过半个月的实测踩坑⏳🕳️,我终于找到了既能榨干NAS性能又稳定流畅的三大终极方案!🚀💡

今天要分享的不仅包含超简单的API对接🤖、Docker开源项目私有化部署📦,甚至还有免显卡的云端白嫖玩法☁️🎮。更重要的是,这些方案全都能和NAS生态无缝结合⚡,无论是ChatNio这类NAS原生应用💻,还是Docker容器化部署🐳,都给你实测有效的避坑指南🧭。想知道如何在威联通/群晖上丝滑运行14B参数的大模型?🌟赶紧收藏这篇全网最省流的深度攻略!💻📌


方案一:API + ChatNio

❌ 缺点:API现阶段无法充值,返回的数据较大会出现无相应情况。

需要准备:

  • ChatNio。(也可以选择其它LLM平台:ChatGPT Next Web、BotGem、OpenCat或者LobeChat等)

  • 注册deepseek开放平台,并创建 API key。

ChatNio 配置

  1. 渠道设置 : 在渠道设置中,配置一下 密匙、接口地址、映射关系;

  2. 模型市场 : 在模型市场中,对刚才渠道中的创建的模型进行上架操作;

渠道设置渠道设置模型市场模型市场

deepseek-api 映射模型

  • deepseek-chat 模型已全面升级为 DeepSeek-V3,接口不变。 通过指定 model='deepseek-chat' 即可调用 DeepSeek-V3。

  • deepseek-reasoner 是 DeepSeek 最新推出的推理模型 DeepSeek-R1。通过指定 model='deepseek-reasoner',即可调用 DeepSeek-R1。


方案二:网页封装 + ChatNio

❌ 缺点: 网页中有的问题他都有。就比如:服务器繁忙,请稍后再试。

需要准备:

deepseek-free-api 安装和配置

  1. 在NAS中下载并启动deepseek-free-api容器,在配置容器时,环境这里加一条deepseek的token信息(📢 注意:token可加可不加,加上后,提问和回答可以同步到网页版)

  2. token获取方式:打开浏览器 -> 登录 deepseek -> ctrl+F12 打开开发者模式 -> 在 application 模块中找到 userToken -> 复制其中的 value 下的内容

deepseek-free-api 部署deepseek-free-api 部署查找 userToken查找 userToken

ChatNio 配置

基本和 deepseek-api 的配置相同,修改一下 秘钥、接入点、模型映射 即可

渠道设置渠道设置

deepseek-free-api 映射模型

  • 默认deepseek-V3:deepseek

  • 深度思考:deepseek-thinkdeepseek-r1

  • 联网搜索:deepseek-search

  • 深度思考 + 联网搜索:deepseek-r1-searchdeepseek-think-search

  • 静默模式(不输出思考过程或联网搜索结果):deepseek-think-silentdeepseek-r1-silentdeepseek-search-silent

方案三:白嫖云端部署

  1. 腾讯 Cloud Studio 部署 DeepSeek-R1:1.5B ~ 32B 模型

在NAS上使用「DeepSeek」? 这才是靠谱的方案!文末有福利!
  1. 部署完成后,还需要进行内网穿透,比如:frp

ChatNio渠道配置

  • 密钥填写:<>

  • 接入点:http://公网地址:映射端口,例如:http://xxx.xxx.xxx.xxx:6034

  • 模型映射:填写 ollama list 查询出来的名称,比如我这里就是:huihui_ai/deepseek-r1-abliterated:14b !Pasted image 20250210160713

为什么NAS直接部署deepseek不靠谱?

在NAS上使用「DeepSeek」? 这才是靠谱的方案!文末有福利!

看一下deepseek所需配置就知道了,弱小的NAS,最多只能跑起来1.5B的模型,基本没啥实际意义~!


作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
1评论

  • 精彩
  • 最新
  • 在线的还不如直接去平台,离线的那厮又跑不动

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
87
扫一下,分享更方便,购买更轻松