完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

2025-01-27 10:40:35 116点赞 862收藏 96评论

大家好,这里是Cherry,喜爱折腾、玩数码,热衷于分享自己的数码玩耍经验~

前言

最近,AI圈子里出了一个大事情,deepseek发布了deepseek R1模型,并且将之开源,让大家可以通过本地部署的方式来使用这个比o1还要强的LLMs模型。

因为cherry不是玩AI的,对AI圈子里的性能、能力并不精通,但是通过网上诸多资讯来看,deepseek通过近600万美刀的成本,加上2000张显卡,实现了openai 上亿成本的效果。

这个模型最厉害的地方在于它实现了自我学习以提升推演能力,简称左右互搏,螺旋飞天

🔻以下是deepseek R1官方给出的跑分图。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

虽然我不懂AI,但是并不妨碍我使用AI,今天我们就分享一些使用Deekseek R1的一些方法。

一、官方使用

二、通过Cherry Studio集成使用

三、本地自托管部署使用


一、官方网站使用

Deekseek网页版、APP、API目前均提供了R1和互联网搜索功能。我们通过手机号注册登录即可免费使用(API需收费)。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

我在网站上提了一个“如何评价自媒体运营者可爱的小cherry”的问题,可以看到AI工具在搜索并且思考如何解读我这个问题,并且准备以何种形式反馈。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

我又让deekseek R1根据我的创作风格,写一篇类似的文章,这里阐述了它自己的心路历经。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

最后生成的东西,粗看还是有模有样的,感觉一定程度上可以节约创作时间。甚至,我看到很多实用deekseek R1开始写小说水文的。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

二、Cherry Studio 集成

除了网页版、APP上的使用外,更简单的AI 使用是依托现有的LLM集成工具,这些工具中有开发者提供的智能体或者提示词,可以帮助新手更快上手。

这里介绍的是一款桌面客户端——Cherry Studio。没错,人家也叫cherry,哈哈哈哈哈。

它是最近非常火的一款开源AI集成工具,支持多模型服务,支持在macsos、windows、linux上使用。

项目地址:

https://github.com/CherryHQ/cherry-studio

工具特性:

1. 多样化的LLM提供商支持:

- ☁️ 主要LLM云服务:OpenAI、Gemini、Anthropic 等

- 🔗 AI Web 服务集成:Claude、Peplexity、Poe 等

- 💻 Ollama 的本地模型支持

2.AI助手和对话:

- 📚 300+ 预配置 AI 助手

- 🤖 创建自定义助手

- 💬 多模型同步对话

3.文档和数据处理:

- 📄 支持文本、图像、Office、PDF 等

- ☁️ WebDAV 文件管理和备份

- 📊 美人鱼图可视化

- 💻 代码语法高亮显示

4.实用工具集成:

- 🔍 全局搜索功能

- 📝 主题管理系统

- 🔤 AI 驱动的翻译

- 🎯 拖放排序

- 🔌 小程序支持

5.增强的用户体验:

- 🖥️ 对 Windows、Mac 和 Linux 的跨平台支持

- 📦 即用型,无需环境设置

- 🎨 浅色/深色主题和透明窗口

- 📝 完成 Markdown 渲染

- 🤲 轻松共享内容

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

要在Cherry Studio上使用deekseek R1,我们需要购买R1的API,然后在配置中添加API KEY使用。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

其内置了30多个行业智能体模型,通过自然语言处理技术,它能帮助您提升工作效率,轻松应对数据分析、文本生成、代码编写等各种挑战。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

三、本地自托管部署

当然,前面也说到了,deepseek R1是支持本地部署的,当本地算力足够的时候我们也可以自建模型来实现免费使用,目前Deepseek R1:8b 大概需要16G内存,以及一张4070可以跑。由于cherry手上没有diy nas,所以拿性能最强的极空间Z423为例,示范如何通过docker部署Deepseek R1。

首先搜索ghcr.io/open-webui/open-webui:llama镜像并下载。在创建容器的时候取消容器性能限制,并且开启显卡能力--device=/dev/dri:/dev/dri

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

路径的话,配置path/ollama/config:/app/backend/data和/path/ollama/models:/root/.ollama两个,分别是配置文件和模型文件。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

端口,放行11434和8080端口,前者是api端口,后者是webui端口。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

大概等5-6分钟,容器会运行完成,我们通过urlip:8080来访问open webui的管理界面。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

初始化一个新的管理员账号。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

可以看到更新日志的最新一次更新是2025年1月23日。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

在左上角的选择一个模型处,输入deepseek-r1:8b下载,大概需要半小时左右下载完成。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

完成以后,系统会进行提示,并且可以选择到这个模型。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

选择8b模型,就可以使用本地的设备型号跑对话了。不过由于没有显卡加持,一个简单的问题,8b大概跑了1分钟左右才回答出来,所以建议大家还是需要使用diy设备来跑该模型比较合适。

完爆OpenAI!国产最强AI Deepseek-r1 本地搭建方法

最后

这几天,网上已经将deepseek-r1称之为国家利器了,将它称为中国AI发展的里程碑之一。而我,这几天也在摸索着使用deepseek-r1,也能明显感觉到它的逻辑推理和反馈能力要强于目前的其它AI平台。

在AI盛行的当下,LLMs给我们的生活和工作提供了大量的便利,而随着AI在医学、科学、数学上的不断延伸运用,也许某种意义上的“赛博时代”开启也许并不遥远。接触AI、握手AI、拥抱AI,成为了我们不得不接受的一件事。

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
96评论

  • 精彩
  • 最新
  • 我用ollama本地部署的,用chatbox调用,我是6800xt显卡,16g,32b的版本能跑,能用,一秒3-4个字的样子.所以我觉得还是用调用云api算了。chatbox就行(pc app都有)。
    现在deepseek官方api被攻击无法注册(送10元),大家可以到硅基流动(去看看 )注册一个,互助一下,无需实名,注册就送14元,他们有满血版本,还可以免费用deepseek新出的文生图Janus(可以让r1写提示词,感觉还能用),按照现在DeepSeek R1价格可以怒写87万字,切V3模式:狂聊1400万字,大家可以搞个玩玩,反正14元够用很久,自己的私有api要自由很多。

    校验提示文案

    提交
    我最近也在用这个,刚开始挺好用,这两天也感觉莫名其妙卡了 [皱眉]

    校验提示文案

    提交
    麻烦帮我看一下,6800xt跑本地的ds的话就,显卡占用率是多少?

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 上周Scale AI 的Alexandr Wang CEO 爆料Deepseek买了五万个Nvidia的H100,而且网友验证它也是被过滤审查的

    校验提示文案

    提交
    本地跑,可以绕过网页的审查吗?

    校验提示文案

    提交
    绕不过的,而且它的注册是手机或微信号,已经记录你的信息,小心点,还是用chatgpt 和Gemini吧

    校验提示文案

    提交
    还有13条回复
    收起所有回复
  • 、这几年给我的感觉就是外国资本还想留咱们一命好赚钱,它们是连我们的骨髓都想吸干,你们好好支持,反正不差我一个对吧? [高兴]

    校验提示文案

    提交
    嗯?没看明白 [喜极而泣]

    校验提示文案

    提交
    实话说得多,装睡的人会骂的越凶.

    校验提示文案

    提交
    还有5条回复
    收起所有回复
  • 一直不懂像我们问点啥,写点啥直接在线能用,部署下来的用途是什么呢

    校验提示文案

    提交
    可以绕过输出审查,比如用酒馆可以些刘备,网页就不行,有输出审查。

    校验提示文案

    提交
    没有敏感词

    校验提示文案

    提交
    还有10条回复
    收起所有回复
  • 很想看真的本地部署R1

    校验提示文案

    提交
    那得有硬件支持

    校验提示文案

    提交
    这个应该主要看显存… 如果4070可以,应该3060也可以…

    校验提示文案

    提交
    还有13条回复
    收起所有回复
  • 怎么微调大模型 分享一下

    校验提示文案

    提交
    一点不懂,我只会网页用

    校验提示文案

    提交
    收起所有回复
  • 极空间没找到这个镜像呢

    校验提示文案

    提交
    自定义下载直接下

    校验提示文案

    提交
    都没添加私有库,拉取失败

    校验提示文案

    提交
    收起所有回复
  • 我连个GitHub都进不了,不全是白扯。。。

    校验提示文案

    提交
    github用ipv6可以直连阿,我的网盘里也有安装包

    校验提示文案

    提交
    收起所有回复
  • 安装并访问了主页,选择模型时输入deepseek-r1:8b,无法搜索到

    校验提示文案

    提交
    魔了吗?

    校验提示文案

    提交
    啥是魔了吗?

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 都来源了,那deep seek靠赚钱呢,好奇问一下大家

    校验提示文案

    提交
    人家做金融资本的,dp只是娱乐

    校验提示文案

    提交
    收起所有回复
  • 装了一本地的,不会用?

    校验提示文案

    提交
    ollama?

    校验提示文案

    提交
    收起所有回复
  • 科学的世界里没有张无忌。

    校验提示文案

    提交
  • 完爆 o1?标题党用心一点好吧。

    校验提示文案

    提交
    同意,像这种标题看着就讨厌

    校验提示文案

    提交
    开源,就是完爆o1,分母为0 [邪恶]

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 好棒!遥遥领先!再也不怕美帝卡脖子啦!

    校验提示文案

    提交
  • 昨天老是反应迟钝貌似遭攻击了

    校验提示文案

    提交
  • 吹deepseek最厉害的可是美国股市。人家是真金白银的吹。

    校验提示文案

    提交
  • 空山澹无言,来者成古今。
    ༺࿈庄子《逍遥游》࿈༻

    校验提示文案

    提交
  • mark下

    校验提示文案

    提交
  • 我想到了一句名言"特斯拉开放了那些专利?谁用哪些专利了?一共也没开放几个专利"然后看到有位值友说,科学界没有张无忌,表示高度认同.

    校验提示文案

    提交
  • 怎么微调

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
862
扫一下,分享更方便,购买更轻松