今天B站的本地AI圈,被一个「双卡」实测刷屏了。中午发布,半天播放量就冲到6万5,评论区213条。 UP主「74并不难」把两张华硕 PRIME 5060 Ti 16G 插上主板,喂给 Qwen3.8-27B 一口 256K 上下文的硬菜:长文本生成、多模态识图、不同上下文长度下的吞吐,一项项测。哔哩哔哩
评论区反复追问的,就一个问题:两张卡,等于一张大卡吗?
答案很不客气:不能这么算。 有位双卡党在部署手记里写得明白:双卡合计 48GB 显存,不代表能当成一张 48GB 卡。27B 的 INT4 权重约 20GB,张量并行切开之后每张卡实际扛着约 9.7GB 模型权重,启动日志里还有 P2P、AllReduce 相关的通信警告。双卡是「把一个模型劈成两半一起跑」,两张卡之间的账,要看卡间通信速度。这也正是评论区那句「prefill 明显没开 P2P」一针见血的地方。知乎哔哩哔哩

那双卡图什么?图的是长上下文的容量。 有用户实测吐槽:同样的模型,单卡长文本写到 8000 token 就爆显存。256K 上下文的真正吃显存大户是 KV Cache,模型权重反而只占小头。单卡的活法是另一条路线:内存卸载、砍上下文;双卡才是给「既要 27B、又要长上下文」那部分人准备的,别混着抄。

再说说速度。 评论区问得直白:「两张 5060 Ti 能打过 5090 吗?」回答也直接:「打不过,差远了。」两张中端卡的卖点是容量,不是速度——速度上限由卡间通信决定。想要上周刚曝光的 96GB 版 5090 那种体验,双卡平替不了。
绕不开的还有价格。这条视频评论区的画风是:「现在显卡就是电子茅台」33 人点赞,「1 万现在买不到一张 5070 Ti」。把时间线拉回 7 月:英伟达对授权显卡厂商发出新一轮涨价通知,华强北工厂执行封仓,8 月起 RTX 50 系列数日内跳涨上千元的报道上了热搜。这是这轮「双卡省钱」讨论真正的背景。卡价剧烈波动期,"等"本身也是一种策略。微博微博

所以这篇实测最值得抄的作业,不是「双卡 256K」这个配置,而是三条自测标准:
已有两张同款(或至少同架构)卡的,张量并行是现成的扩容量路线;
数据必须留在本地、且真的依赖长上下文(整项目喂给模型、长文档问答)的,值得折腾;
指望双中端卡跑出旗舰卡速度的,先别下单——模型格式兼容性、P2P 配置这些坑,每一个都够你排查一晚上。
都不占的话,那笔买卡钱换成 API 调用,确实更省心。正如评论区那条高赞回复:本地部署「不是为了回本,是为了 token 自由」——但自由也是有市价的,现在的市价,比三个月前贵。
(数据与实测信息截至 2026 年 11 月 6 日公开内容,具体性能以各自软硬件环境实测为准。)