DeepSeek在线使用or本地部署应该怎么选?

2025-02-08 18:35:42 5点赞 49收藏 0评论

简介

一夜之间无论是电视、手机、铺天盖地都是DeepSeek的新闻,上至大厂高管下至出租车司机言必成DS,今年春节的两大话题一个是哪吒,一个就是DS,既然是属于我们国人自己的大模型,我们也一定要亲身体验一下。经过我假期几天的体验,把两种体验方式给总结一下,希望各位值友也能尽快登上DS快车。

在线使用和本地部署的方法

在线使用:

最简单的方法就是使用手机或者打开网页直接使用,但是目前DS官网服务繁忙,导致经常没有响应,好在有很多大模型网站供提供了云服务,我们只要注册使用就行了。

大模型的网站很多比如阿里云百度智能云,这里给大家推荐华为云的大模型网站硅基流动,只需要注册登录使用即可。

当然在线使用DS是需要付费的,不过DS的费用非常低,现在注册还有赠送的2000万tokens,简单的说一个汉字算0.45个token,2000万token够你玩一阵子了,感觉有用可以继续充值。

注册进入之后,选择一个大模型就可以了,目前使用最多的是DeepSeek-R1的模型,版本671B是最好的,直接点击对话,就可以使用了。

硅基流动的部分大模型列表硅基流动的部分大模型列表

本地部署:

就是把DS安装在你的电脑里,不用付费也能使用,哪怕断网也不影响。你的电脑配置越高,他的反应速度就越快,而且本地部署还可以搭建自己的知识库,非常适合专业,垂直的领域,不但效果更好,数据也更安全。本地部署需要安装下载ollama

Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案,可以简化模型的部署流程。支持 macOS、Linux、Windows 操作系统。

官网地址:https://ollama.com/

下载地址:https://ollama.com/download

备份链接:https://github.com/ollama/ollama/releases/download/v0.5.7/OllamaSetup.exe

基本推荐配置:

deepseek-r1:5b(CPU: 8核,显卡建议NVIDIA GTX 1080,4G-8G显存)

deepseek-r1:7b(CPU: 8核以上,显卡建议NVIDIA GTX 2080,8G显存)

deepseek-r1:8b(CPU: 8核以上,显卡建议NVIDIA GTX 3080,8G显存)

deepseek-r1:14b(CPU: 8核以上,显卡建议NVIDIA GTX 4060,建议12G显存)

deepseek-r1:32b(CPU: 8核以上,显卡建议NVIDIA GTX 4060,建议24G显存)

deepseek-r1:70b(CPU: 8核以上,显卡建议NVIDIA GTX 4090,建议32G以上显存)

如果你的显存不太够也没关系,电脑都可以使用内存作为共享显存,速度稍微慢一点。

Ollama 的安装

下载完成后直接点击 OllamaSetup.exe 进行安装。

安装完成后,cmd 打开命令行窗口,输入 “ollama -v” 测试,显示 ollama 的版本为 “0.5.7”,表明安装成功。

Ollama 的运行

Ollama 没有用户界面,在后台运行。

打开浏览器,输入 “http://localhost:11434/”,显示 “Ollama is running”。

  1. deepseek - r1 模型安装

Ollma 安装 deepseek - r1 模型

deepseek - r1 不同版本模型的执行命令不同:

  • 1.5b 的命令为:

ollama run deepseek-r1:1.5b

  • 7b 的命令为:

ollama run deepseek-r1:7b

  • 14b 的命令为:

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

安装时间由你的网速决定

安装DS r1 14b安装DS r1 14b

使用 deepseek - r1 模型

  1. 在命令行窗口运行命令 “ollama run deepseek - r1:7b”,就可以在提示行输入,与 deepseek - r1 进行聊天。

  2. 输入 “/?”,可以获得帮助。

安装cherry studio

  1. 下载 cherry_studio

  2. 下载地址:https://cherry-ai.com/download。选择对应的系统进行下载。

  3. 如果需要选择其他系统:

DeepSeek在线使用or本地部署应该怎么选?
  1. 本地安装

  2. 安装完成点击右下角设置

DeepSeek在线使用or本地部署应该怎么选?

配置本地知识库

  1. 选择硅基服务,并填写API,没有API的去官网注册一个就行了:硅基流动

DeepSeek在线使用or本地部署应该怎么选?

2.添加模型

DeepSeek在线使用or本地部署应该怎么选?DeepSeek在线使用or本地部署应该怎么选?

3.添加嵌入模型

DeepSeek在线使用or本地部署应该怎么选?

4.聊天测试是否安装成功

DeepSeek在线使用or本地部署应该怎么选?

5.添加知识库

DeepSeek在线使用or本地部署应该怎么选?DeepSeek在线使用or本地部署应该怎么选?DeepSeek在线使用or本地部署应该怎么选?DeepSeek在线使用or本地部署应该怎么选?

6.确认知识库安装成功,并尝试搜索

DeepSeek在线使用or本地部署应该怎么选?

7.聊天中设置知识库

DeepSeek在线使用or本地部署应该怎么选?
  1. 设置完成。

在线使用和本地部署的优缺点

在线使用

优点:无需电脑,无需配置,打开就用,满血版本。

缺点:受网络影响,收费,不能搭建自己的知识库。

本地部署:

优点:断网也能用,免费,数据隐私安全,可以通过搭建自己的本地知识库实现个性化的AI模型。

缺点:搭建需要有一定的动手能力,电脑配置不能太低。

好了,以上就是春节假期我使用DS的一点体会,希望能给大家提供帮助。

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
49
扫一下,分享更方便,购买更轻松