轻松上手,如何给AI PC部署本地DeepSeek大模型

2025-02-15 22:10:38 2点赞 10收藏 0评论

DeepSeek的火爆势不可挡,而因为服务器承受能力有限,无响应的情况经常出现,于是本地部署成为了最新的风潮。今天就来看看怎么来本地部署和体验DeepSeek R1 Distill推理模型。

部署英特尔酷睿Ultra AI PC

如果你有一台英特尔酷睿Ultra AI PC,其合作伙伴Flowy在最新版的AI PC助手(英特尔酷睿Ultra独享版)上,率先在端侧支持了DeepSeek-R1模型,现在就可以从intel.cn/aipc上找到下载链接,马上用起来!

轻松上手,如何给AI PC部署本地DeepSeek大模型

首先找到Flowy AI PC助手后,下载Flowy AI PC版(https:// www.flowyaipc.com/),并完成安装。

轻松上手,如何给AI PC部署本地DeepSeek大模型

成功安装并登录后,点击左侧图标“模型市场”,并选择“本地模型”,就可以看到DeepSeek-R1-8B的本地模型。

轻松上手,如何给AI PC部署本地DeepSeek大模型

点击“...”后,选择“安装”,即可自动下载安装DeepSeek模型。

轻松上手,如何给AI PC部署本地DeepSeek大模型

安装后,回到对话主界面,点击对话框左上角的“模型大脑”图标,选择DeepSeek模型,随即使用。

轻松上手,如何给AI PC部署本地DeepSeek大模型

部署AMD锐龙AI PC

早在除夕前夜,AMD就成为首个将DeepSeek模型集成至其GPU上的厂商。AMD也是最早在x86处理器领域引入AI能力的,锐龙7040系列就率先集成了独立的NPU AI引擎,此后的锐龙8040系列、锐龙AI 300系列、锐龙AI MAX 300系列都越发强大。

轻松上手,如何给AI PC部署本地DeepSeek大模型

前几天,AMD表示DeepSeek R1 Distill推理模型可被应用于AMD Ryzen AI处理器和Radeon显卡上,并公布了对应的处理器型号、内存需求、显卡型号,以及相应的DeepSeek R1 Distill大模型的规格,具体如下:

轻松上手,如何给AI PC部署本地DeepSeek大模型

想要本地部署,你需要先做两个准备。首先,安装AMD Adrenalin 25.1.1或更新版显卡驱动。

轻松上手,如何给AI PC部署本地DeepSeek大模型

其次,打开lmstudio.ai/ryzenai,并下载LM Studio 0.3.8或更新版本,目前最高版本为0.3.9。

轻松上手,如何给AI PC部署本地DeepSeek大模型

升级驱动并安装好LM Studio软件之后,需要重启电脑以使驱动程序生效。接下来就是模型安装。

打开LM Studio软件之后,可以直接点击右上角跳过引导界面,点击“发现”(discover)标签页。选择适合自己的DeepSeek R1 Distill,软件页面右侧,勾选“Q4_K_M”量化模式,然后点击“下载”。

下载完成后,返回聊天选项页,从下拉菜单中选择DeepSeek R1 distill,并确保勾选“手动选择参数”(manually select parameters)选项。在“GPU卸载”(GPU offload)中,将滑块移到最大值,点击“模型加载”(model load)。

完成这些操作,你就可以在本地体验DeepSeek R1推理模型了!

不同参数规模的大模型,决定了其性能和体积,因此不同的硬件设备需要选择最适合自己的参数量。AMD也公布了搭载锐龙7040系列及以上处理器的笔记本最大支持DeepSeek-R1系列大模型的信息,大家可以根据自身的实际情况来选择。

轻松上手,如何给AI PC部署本地DeepSeek大模型

另外,AMD推荐将所有Distill运行在Q4_K_M量化模式。如果你使用的是台式机,AMD RX 7000系列显卡也都已支持本地部署DeepSeek R1。

轻松上手,如何给AI PC部署本地DeepSeek大模型

AMD的AI算力主要依托GPU而来,而其新一代的Radeon 9070系列产品,将进一步推升AI性能。如CES时的“许诺”,新产品将在Q1内,更具体地说是2月内于国内发布。届时会否有GRE这样的超值版本,还让我们拭目以待。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
10
扫一下,分享更方便,购买更轻松