NPU 50TOPS算力呢。
NPU 50TOPS算力呢
可以跑是可以跑,不过AMD核显现在好像只能最大调用50%的内存,这一点吃亏了。
24GB和32GB RAM,AMD官方是退居DeepSeek-R1-Distill-Qwen-14B,但是AI9 Max 3XX 64GB 推荐是DeepSeek-R1-Distill-Qwen-32B,AMD这边好像核显有个使用率问题,最大好像只能用一半的RAM。所以32GB RAM 可用的就16GB,64GB RAM 可用32GB,按这个算法是64GB版本可以跑32b模型。
Rocm已经有编译好的了,gfx1150(beta1)
基本上是的,不过目前SDXL已经可以跑在NPU上了,不过速度可能还是不如GPU快。AMD其实现在NPU放的面积太大了,像国内目前几乎是用不上。
阉割NPU以后价格合适就行,deepseek都只能跑在cpu或gpu上,npu纯纯电阻丝
64G内存应该能跑,但是官方没给rocm,得用民间自己编译的
现在还没什么应用能用上AMD的NPU…能否出一款完全阉割掉NPU的版本,还能再捞一波客户…
hx370能跑deepseek 32b模型吗
跑llm还是64G,370的8000内存很吸引人啊
CPU单核和多核都全面压制13900了
stx的pcie通道数比较少,做外接显卡得放弃一些外部接口才行。
能不能上外接显卡底座
ai系CPU你感觉和13900h系列比怎么样
请选择举报理由 垃圾广告! 低俗色情! 人身攻击! 疑似水军评论! 其他有害!
最少输入10个字
NPU 50TOPS算力呢。
NPU 50TOPS算力呢
可以跑是可以跑,不过AMD核显现在好像只能最大调用50%的内存,这一点吃亏了。
24GB和32GB RAM,AMD官方是退居DeepSeek-R1-Distill-Qwen-14B,但是AI9 Max 3XX 64GB 推荐是DeepSeek-R1-Distill-Qwen-32B,AMD这边好像核显有个使用率问题,最大好像只能用一半的RAM。所以32GB RAM 可用的就16GB,64GB RAM 可用32GB,按这个算法是64GB版本可以跑32b模型。
Rocm已经有编译好的了,gfx1150(beta1)
基本上是的,不过目前SDXL已经可以跑在NPU上了,不过速度可能还是不如GPU快。AMD其实现在NPU放的面积太大了,像国内目前几乎是用不上。
阉割NPU以后价格合适就行,deepseek都只能跑在cpu或gpu上,npu纯纯电阻丝
64G内存应该能跑,但是官方没给rocm,得用民间自己编译的
现在还没什么应用能用上AMD的NPU…能否出一款完全阉割掉NPU的版本,还能再捞一波客户…
hx370能跑deepseek 32b模型吗
跑llm还是64G,370的8000内存很吸引人啊
CPU单核和多核都全面压制13900了
stx的pcie通道数比较少,做外接显卡得放弃一些外部接口才行。
能不能上外接显卡底座
ai系CPU你感觉和13900h系列比怎么样
请选择举报理由