26年11月 Ollama 显卡选购指南:显存定生死,价格定钱包
现在可是 AI 时代了,选显卡可不能跟去年那样了。
去年咱们主要以游戏为主,推荐显卡,如果今年还以游戏为主,那就该找骂了。
打游戏那套 avg、Low 帧、DLSS、FSR、光追啥的,跟本地 AI 推理是两码事。

15 tok/s 是正常速度,超过 40 tok/s 就是飞一般的感觉了。
真正决定一张卡,能不能跑好 AI 语言模型的,就三个硬指标:
1:显存,模型权重 + 上下文 KV 缓存,得全塞进显存,才能跑起来,要是显存放不下,溢出到内存,直接就崩了。
2:宽带,每生成一个 token,都要把模型权重,从显存读一遍。
3:软件生态,N 卡走 CUDA,A 卡走 ROCm 或 Vulkan,I 卡原生不支持。
算力在这,基本上没什么大用,只能说够用就行。
它主要是影响预处理,图片、视频生成方面。
抄作业:
综合首选:RTX 5070 Ti
性价比:RTX 5060 Ti 16G
入门:RTX 3060 12G
其他一律不考虑,不要问为什么。
问就是没钱,买不起,太贵了,能不能赚到钱,还两说。
综合首选:RTX 5070 Ti

5070 Ti 跟 5080 都是 16G 显存,带宽分别是 896GB/s 和 960GB/s。
跑同一个模型,比如 14B 的 Qwen,生成速度大概比 5060 Ti 快两倍,加上算力也强,所以 ComfyUI 里出图快,做视频也快。
推荐 5070 Ti 的原因,是因为 5080 太贵了,她两性能差不多,你多花钱买到的,只是快一点点,不是能跑更大的模型。
性价比:RTX 5060 Ti 16G

如果你是新装机,选它就对了,不会错的。
5080 能干的事,我 5060 Ti 也能干,无非就是慢一点,慢工出细活。
这张卡的短板是带宽,只有 448 GB/s,所以跑起来,比人家慢点,这也正常。
现阶段 16G 显存,跑 Gemma4-12B、Qwen3-14B、GPT-oss-20B、MiMo-V2.6 9B,都没问题。
入门:RTX 3060 12G

这张卡本身没什么特别的,就是靠着 12G 的大显存,硬生生重回大众视线。
12G 的大显存,跑 Qwen2.5-7B,或者是 Llama3-8B 很舒服。
SDXL 也能跑,就是出图慢点。
关键还功耗低,有新卡。
避坑:
8G 显存:不要听其他人说什么,不要。
RTX 5070:速度快是快,但 12G 显存,把你锁死在 12B-14B 模型,想跑更大的没戏。
二手卡:如果你有火眼金睛,就当我没说,搞一张 3090,体验一下什么叫飞一般的感觉。
A卡:很多工具只认 CUDA,愿意折腾,当我没说。
总之你就记住,现在买显卡,不是买性能,而是买显存。
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
