5420元凑96G显存:打不动游戏的老显卡,被垃圾佬拉去跑AI

源自20位全网作者

15:27

5420元凑96G显存:打不动游戏的老显卡,被垃圾佬拉去跑AI

RX580打不动游戏之后,没进垃圾桶,而是转行去跑AI了。

今年垃圾佬圈的新梗:别人的显卡在更新换代,他们的显卡在不断"转岗"。 理由不复杂:新卡、内存、硬盘齐齐涨价,连二手1070都有人喊出七百的价。但本地跑大模型的念想还在,于是退役的服务器卡、魔改扩容卡,一夜之间从"电子垃圾"变成了硬通货。哔哩哔哩知乎知乎

先说账本,不聊情怀

目前讨论度最高的三套方案,全部出自真实晒单:

  • 6张RX580凑出96GB显存,全套5420元,双路至强24核48线程,再塞256GB内存。用发帖UP主的话说:打游戏它过气了,跑AI它正年轻。哔哩哔哩

  • 双卡2080Ti 22G,整机8000-9000元。 E5-2673v3配华南X99主板,DDR3 32G插满四条——在内存贵上天的当下,"量大管饱"的DDR3反而便宜。2080Ti 22G这种魔改扩容卡单张约2800元,UP主实测单卡解码80 token/s左右,配合社区改过的vLLM方案,跑27B级别模型、256k上下文,解码能摸到200 token/s。小红书

  • V100-32G加转接,全套约6000元。 配i9-10920X,跑最近社区里最火的本地推理工具Strata,256k上下文下实测预填充1528 token/s、解码81 token/s。发帖人的评价就四个字:能干活了。而且他敢24小时不关机。小红书

5420元凑96G显存:打不动游戏的老显卡,被垃圾佬拉去跑AI

5420元凑96G显存:打不动游戏的老显卡,被垃圾佬拉去跑AI

评论区永远在追问三个问题

“花了多少?”“速度多少?”“坑在哪?”,几乎每篇晒单下面都是这三问。博主们也懒得藏:2080Ti双卡全套八九千,V100那套6000就能落地;想跑视频生成的,评论区追问"g3行不行",博主答"还没试,应该问题不大"。

值不值,评论区吵得最凶。有人说成本超过5000,不如直接买台64G统一内存的主机,才8000。也有人说V100 32G如今性价比一般,要么双16G更便宜、prefill更快,要么加点钱上7900XTX。这事没有标准答案,看你需不需要大显存、要不要24小时在线。小红书

两种"大漏",是明晃晃的坑

  • CMP 170HX,号称"8G破解成64G",被炒到8499元。 贩子打包票"均包解锁,64G不稳定包退"。但闲鱼老哥提醒得很直白:现在能解锁的只有算力,显存容量物理上没法变,实测没人成功过。知乎

  • 4080S 32G涡轮卡,号称"大厂工包三年质保",最低打包价也要8800。 本质是华强北拆焊颗粒、改电阻、刷定制vBIOS的扩容卡,位宽和带宽一毫米都没涨,可靠性和全凭口头的售后都存疑。知乎

5420元凑96G显存:打不动游戏的老显卡,被垃圾佬拉去跑AI

5420元凑96G显存:打不动游戏的老显卡,被垃圾佬拉去跑AI

还有道新手最容易忽略的坎:这类纯算力卡、矿卡没有视频输出接口,BIOS不开Above 4G decoding不识别,SXM卡还得赌转接。知乎小红书

最后说人话

垃圾佬跑AI,不是追热词,是算账。5420元买96G显存是真的,8499元的"破解64G"是假的。想在老显卡转岗的风口上接盘,先把成本、电耗、兼容性三件事排开算一遍。这个圈子的祖传铁律,放到AI时代也照样管用:看不懂的东西,别碰。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章