老鸡新飞!AMD遇上Deepseek,起飞了? 真香!

2025-02-04 20:30:34 184点赞 1091收藏 173评论

实测Ryzen APU+DeepSeek推理性能,旧笔记本秒变AI工作站


一、探索AMD集成显卡的潜力:核显竟是隐藏的AI算力池

1. 颠覆认知:集成显卡≠性能羸弱

  • 技术亮点:AMD Radeon集成显卡(如RDNA架构)的FP16/INT8加速能力解析

  • 对比实验:Ryzen 7 6800U核显 vs NVIDIA MX450独显的AI推理吞吐量(附Benchmark图表)

  • 能耗比杀手锏:实测功耗墙下的持续性能表现(50W整机功耗达成30TOPS算力)最新的8845 或者AI390 更合适!

2. 为什么DeepSeek适合集成显卡?

  • 框架轻量化优势:DeepSeek模型压缩技术与低精度推理适配性

  • 显存优化黑科技:通过HBM(Host-Device内存共享)突破核显显存瓶颈(案例:6GB内存跑13B参数模型)


二、安装与配置本地化环境:手把手教你榨干核显性能

1. Ollama

官网 ollama Download Ollama on Windows
ollama for amd Releases · likelovewant/ollama-for-amd

关键点: 查询自己的amd 显卡是否在支持列表中,若不在不建议折腾

System requirements (Windows) — HIP SDK installation (Windows)

支持列表1支持列表1支持列表2支持列表2
  • 关键步骤:

    • ROCm 5.6+定制化安装(绕过官方限制)

    • Windows WSL2与Ubuntu双平台配置对比(附避坑指南)

    • 验证命令:rocm-smi检测计算单元激活状态

2. LM Studio 直接跳转第四章节

3. 资源监控:实时掌握硬件状态

  • Windows 资源管理器查看负载在CPU还是GPU

老鸡新飞!AMD遇上Deepseek,起飞了? 真香!

三、实际应用案例分析:旧设备如何变身生产力神器

场景1:大学生低成本科研——文献摘要生成

  • 设备:2021款小新Pro14(Ryzen 5 5600H + Vega 7)

  • 实测数据:

    • DeepSeek-7B模型生成1000字摘要耗时:23秒(对比CPU模式加速8.7倍)

    • 连续工作4小时功耗:整机平均38W(宿舍不断电秘籍)

场景2:自媒体创作者——AI视频脚本助手

  • 工作流:
    OBS录屏 → Whisper语音转写 → DeepSeek提炼分镜脚本

  • 性能对比:

    • 核显加速:处理1小时视频素材仅需9分钟

    • 纯CPU方案:耗时52分钟(效率提升5.7倍)


四、进阶玩法:硬核玩家专属调优指南

  • 超频潜力挖掘

    • 通过MorePowerTool解锁核显TDP限制(风险提示:需加强散热)

    • 内存超频对AI性能的影响测试(DDR4-3200→4266MHz提升19%带宽)

  • 分布式计算方案

    • 多台老旧笔记本组建Kubernetes推理集群(实测线性加速比)

LM Studio实战:榨干AMD 4800U的每一分AI潜能

核心痛点:大多数AI工具默认依赖NVIDIA生态,但AMD用户无需妥协!本节以Ryzen 4800U(Vega 8核显)为例。


1. LM Studio:低门槛调用核显,老旧显卡也能流畅跑大模型

技术原理

  • DirectML后端:通过微软DirectX接口实现跨厂商GPU加速,无需复杂驱动

  • 显存-内存协同:动态分配系统内存为“虚拟显存”,突破核显物理显存限制(实测Vega 8可调度8GB共享内存)

配置步骤(Windows 11实测)

  1. 驱动准备

    • 安装AMD 最新驱动

  2. LM Studio设置

    • 下载LM Studio 0.3.9+,启动时添加参数:

      lmstudio.exe --use-directml --gpu-adapter amd

    • 模型加载优化:选择GGUF格式模型(推荐Q4_K_M量化级别),勾选“GPU Offload”

使用显卡负载使用显卡负载

使用显卡负载跑1.5b 的负载可以到GPU和CPU, 17.18 tok/sec

  1. 性能对比(4800U Vega 8 vs 纯CPU)

    任务类型GPU加速耗时CPU耗时加速比Llama2-7B问答4.2秒/词11.8秒/词2.8xMistral-8x7B摘要9.7秒/段落28.1秒/段落2.9x

调优技巧

  • 优先级锁定:任务管理器中为RadeonSoftware.exe设置“实时”优先级,减少调度延迟

  • 内存双通道必开:单通道DDR4-3200 → 双通道带宽提升72%,Token生成速度加快39%


  1. 性能实测(4800U Vega 8)

    • 吞吐量:7B模型达18 tokens/s(对比CPU模式4.2 tokens/s)

    • 显存占用:通过--num_gpu 1参数限制GPU层数为8层,显存占用控制在3.8GB

五、4800U实战:从零打造全能AI终端

定制优化方案(根据你的设备专属调整)

  1. BIOS设置

    • 开启狂暴模式(提升整体TDP至45W)

    • 禁用Secure Boot以加载自定义内核模块

  2. 系统级调优

    powershell

    # Windows电源计划优化 powercfg /setacvalueindex SCHEME_BALANCED SUB_PROCESSOR PERFBOOSTMODE 1 powercfg /setacvalueindex SCHEME_BALANCED SUB_GRAPHICS GPUPE 1

    第一条命令的具体作用是:

    SCHEME_BALANCED:表示使用的是“平衡”电源计划。

    SUB_PROCESSOR:表示需要设置的是处理器(CPU)相关的电源管理选项。

    PERFBOOSTMODE:表示处理器性能提升模式。

    1:设置性能提升模式为“积极”模式。

    在这个模式下,当你的电脑接入电源时,处理器会更积极地提升性能,以提供更高的处理能力。这适用于需要高性能的应用和任务,但也可能会增加能耗和发热量。

    第二条命令的具体作用是:

    • SCHEME_BALANCED:表示使用的是“平衡”电源计划。

    • SUB_GRAPHICS:表示需要设置的是图形处理器(GPU)相关的电源管理选项。

    • GPUPE:表示GPU性能增强模式。

    • 1:设置GPU性能增强模式为“启用”。

    在这个模式下,当你的电脑接入电源时,图形处理器(GPU)会启用性能增强模式,以提供更高的图形处理能力。这适用于需要高性能图形处理的应用和任务,但也可能会增加能耗和发热量。


五、选购建议:哪些AMD设备值得捡漏?

  • 性价比神机清单

    • 二手笔记本推荐:ThinkPad T14 Gen2 AMD(约¥2000 以内,R7 PRO 5850U)

    • 迷你主机优选:铭凡UM560XT(准系统¥1000,可扩展64GB内存)

  • 避坑指南

    • 必须支持的APU型号列表(Zen3架构起步)

    • 内存双通道配置对性能的影响实测(单通道损失35%带宽)

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
173评论

  • 精彩
  • 最新
  • 2600买的玄智银河笔记本,加加400块钱内存,amd 7840h,双通道内存跑deepseek 14b不到20tokens/s,勉强也能跑到32b,出词5token/s左右

    校验提示文案

    提交
    不错了,挺好的👍

    校验提示文案

    提交
    兄弟,请教一下,你们这说的是什么玩法呀

    校验提示文案

    提交
    还有14条回复
    收起所有回复
  • 7b模型不太智能,只有到了32b开始才慢慢好些,效果最好的还是官网在线,就是服务器太拥挤了

    校验提示文案

    提交
    试试硅基的 api

    校验提示文案

    提交
    硅基的也不如官网的水平,而且回答问题的思路也不太一样,应该是微调有差异

    校验提示文案

    提交
    还有2条回复
    收起所有回复
  • 5600g试了一下自己搭的7b的模型,感觉比其他网络平台7b模型聪明一些,差不多能达到32b模型的结果。速度差不多是5-6tokens每秒,基本能接受,就是文章机翻太厉害,看着费劲

    校验提示文案

    提交
    你跑的 r1 的 7b 么?

    校验提示文案

    提交
    是的,网盘上其他人提供的模型,应该是有微调的,比app的模型聪明不少,有个deepsacler的1.5b模型感觉很厉害,和deepseek7b
    差不多

    校验提示文案

    提交
    收起所有回复
  • 老老实实用api接口调用满血模型吧。
    官方价格16元百万词,买笔记本的钱够你用10年。
    下载一个chatbox(pc,apo都有),官网注册一个api(送10元)。随便玩。
    不过现在deepseek官方api被攻击无法注册(送10元),大家可以到硅基流动(去看看 )注册一个,互助一下,无需实名,注册就送14元,他们有满血版本,还可以免费用deepseek新出的文生图Janus(可以让r1写提示词,感觉还能用),按照现在DeepSeek R1价格可以怒写87万字,切V3模式:狂聊1400万字,大家可以搞个玩玩,反正14元够用很久,自己的私有api要自由很多。

    校验提示文案

    提交
  • 折腾了一大圈,都不如APP好用。自己本地部署不适合大部分用户。

    校验提示文案

    提交
    对(๑˃̵ᴗ˂̵)👍

    校验提示文案

    提交
    重在折腾

    校验提示文案

    提交
    还有5条回复
    收起所有回复
  • 有点复杂,小白看不太懂

    校验提示文案

    提交
    离线版本的 Ai模型 LM Studio 可以调用 AMD 老款 GPU😊,整个文章就说了这个事情😓

    校验提示文案

    提交
    这篇文章就是告诉大家,即使是一些旧的AMD笔记本,通过一些技术手段,也能变成强大的AI工具,而且成本很低。这对于不想花钱买新设备,但又想尝试AI功能的人来说,是个好消息!

    校验提示文案

    提交
    还有9条回复
    收起所有回复
  • 看不懂,也没兴趣,但你写了这么多,给你点个赞。

    校验提示文案

    提交
    谢啦谢啦,爱你哟!😘

    校验提示文案

    提交
    收起所有回复
  • 看了我的配置只能跑1.5b [喜极而泣]

    校验提示文案

    提交

    mige

    作者

    Sailoe

    一样 [喜极而泣]

    校验提示文案

    提交
    收起所有回复
  • 安装这玩意有啥用呢?

    校验提示文案

    提交
    主要用于解决无法访问互联网或需要保护数据安全的问题 ,本地应用 AI大模型。

    校验提示文案

    提交
    收起所有回复
  • 我这个配置可以部署吗?

    校验提示文案

    提交
    可以调用了 ollama 都应该可以 github 上有一个 ollama for amd

    校验提示文案

    提交
    收起所有回复
  • Deepseek写的

    校验提示文案

    提交
    对的

    校验提示文案

    提交
    正解, 我先让他写个辣鸡文,我再慢慢改,一起进步!

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 这也太老了吧,新的cpu不能用?

    校验提示文案

    提交
    新 CPU 直接跑的飞起

    校验提示文案

    提交
    zen3起步是说zen3开始比较好是吧?

    校验提示文案

    提交
    还有1条回复
    收起所有回复
  • 我的6950xt 能不能跑跑

    校验提示文案

    提交
    官方列表中有你这个卡,直接跑

    校验提示文案

    提交
    收起所有回复
  • 5600G 能否一战

    校验提示文案

    提交
    能战 7b,多了受罪🤦‍♂️

    校验提示文案

    提交
    可以可以

    校验提示文案

    提交
    收起所有回复
  • 7b根本没有实用价值,除了耗电

    校验提示文案

    提交
    14b 也差不多 [喜极而泣]

    校验提示文案

    提交
    收起所有回复
  • 很专业,看不懂

    校验提示文案

    提交
    手机装个 deepseek 或者 kimi 玩起来🤓

    校验提示文案

    提交
    收起所有回复
  • LM Studio与Ollama实战,Ollama去哪了?

    校验提示文案

    提交
    ollama 我的这个 只能 CPU,无解,至少 zen3 以上 apu。

    校验提示文案

    提交
    ollama得下那个 ollama for AMD才能用A卡跑

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 我是9700X+6900,纯血Afans,不知道怎么弄。

    校验提示文案

    提交
    lm studio 跑了试试

    校验提示文案

    提交
    收起所有回复
  • 作者写的很好了,但是不考虑速度其实还可以ssd虚拟内存

    校验提示文案

    提交
    还真是虚拟内存吃得满满的,之前跑了 60 多 GB,真硬盘杀手

    校验提示文案

    提交
    虚拟内存没意思速度太慢了

    校验提示文案

    提交
    收起所有回复
  • 官方的更智能,但是限制也多。本地部署有自己的优点

    校验提示文案

    提交
    练练手, 瞎折腾,1.5b 做个代码补全 感觉我老机器跑的都吃力!

    校验提示文案

    提交
    收起所有回复
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
1.0K
扫一下,分享更方便,购买更轻松