RTX 2080 Ti魔改22GB显存能跑大模型？实测数据告诉你值不值
10:21
精选参考来源
精选参考来源
1. 2080Ti跑DeepSeek-V4-Flash：sm_75架构的FP4兼容实践
CSDN博客 2026-06-19 00:00:00
2. 八年老将再出征：RTX 2080 Ti显存翻倍至22GB 售价仅3300余元
ITBear科技资讯 2026-08-07 00:00:00
3. 2080Ti跑DeepSeek-V4-Flash实战指南：sm_75架构适配FP4量化推理
CSDN博客 2026-06-19 00:00:00
4. RTX 2080 Ti 22G 成功部署 Qwen3.6-35B-A3B：低成本实现本地 Token 自由
今日头条 2026-04-26 00:00:00
5. RTX2080Ti部署Qwen3.6-35B-A3B的第三次突破：256K上下文
知乎 2026-05-08 00:00:00
6. 当年一代传奇炼丹神卡RTX2080Ti跑本地大模型速度怎样？
今日头条 2026-07-22 00:00:00
7. 【实测】单张2080Ti 22G + 256G内存运行DeepSeek-V4-Flash！FastLLM混合推理速度到底有多快？
哔哩哔哩 2026-05-19 00:00:00
8. 两张RTX 2080Ti跑大模型是否能挑战身价6倍的RTX4090?(速度全面对比版)
微信公众号 2026-07-24 00:00:00
9. 22G的RTX2080TI能做什么？
微信公众号 2026-07-23 00:00:00
10. RTX 2080 Ti显存扩容至22GB再上市，老卡凭Tensor Core续战本地AI
中关村在线 2026-08-07 00:00:00
11. 3600元 Qwen27B 256k上下文 100tok/s 最近看到一个很硬核的项目： vLLM-2080Ti-Definitive 它不是普通的 vLLM 教程，而是专门给 双 RTX 2080 Ti 22GB + NVLink 做的一套 vLLM 运行时。目标很明确：把这套老 Turing / SM75 平台榨干，用来跑 27B/31B 级别本地大模型256K 原生上下文推理。 README 里最抓人的数据是： Qwen3.6 27B 在双 2080 Ti TP=2 上，单请求 decode 可以到 100+ tok/s。 这个数字放在 2080 Ti 身上，确实有点离谱。 项目的核心思路很现实： 双 2080 Ti 22GB + NVLink 二手价格锚点大概 3600元，可以凑出： 44GB 总显存 1232 GB/s 总显存带宽 8704 CUDA cores 1088 Tensor cores vLLM TP=2 推理环境 作为参考，RTX 4090 是 24GB 显存、RTX 5090 是 32GB 显存，DGX Spark 和 Mac Studio 虽然有更大的统一内存和更省心的整机体验，但价格也来到 2-3万 级别。 所以这个项目不是在说老卡全面吊打新卡，而是说：如果目标是本地跑一个主力 27B 模型，双 2080 Ti 改卡这条路线的性价比非常夸张。 它做的事情也不是简单 “能启动”。 README 里整理了完整的运行时路线，包括： Marlin 权重量化路径 FlashInfer / FlashQLA 快速 prefill TurboQuant / INT8 KV MTP decoding CUDAGraph safe /normal/fast /aggressive 多种 profile Qwen3.6 27B 的 FP8、INT4、NVFP4 路线 最高 256K native context 的配置方向 目前最成熟的是 Qwen3.6 27B。 Gemma4 31B 也有实验路线，但项目明显把 Qwen 27B 当作主力生产路线。 #本地大模型 #vLLM #RTX2080Ti #Qwen36 #Gemma4
抖音 2026-06-19 00:00:00
12. RTX 2080 Ti 被改成 22GB 显存，500 美元，本地跑 AI 真的够用吗？
今日头条 2026-08-07 00:00:00
13. 全新 RTX3060 显卡再上市售价 2349 元，性价比如何？
知乎 2026-06-08 00:00:00
14. 旧显卡焕发新生：2080Ti成功部署Qwen 3.6 35B大模型，实测67 TPS与128k上下文
Toy Tech Blog 2026-04-26 00:00:00
15. 2080 Ti 22GB 加 3080 10GB 这种显存不对称双卡，跑 DeepSeek-V4-Flash 该怎么分配才最合理？
CSDN文库 2026-06-02 00:00:00
16. Qwen3.6
Toy Tech Blog 2026-04-26 00:00:00
17. Benchmarking Qwen3.6-35B-A3B (W8A8) on 2x Modded 22GB RTX 2080 Ti: Impressive Concurrency & 400K KV Cache!
Level1Techs 2026-05-09 00:00:00
18. 显存翻倍带宽不变，魔改RTX4080现身二手平台售价超万元
今日头条 2026-08-10 00:00:00
19. 老旧显卡跑大模型更快？实测CUDA单内核优化效果
哔哩哔哩 2026-04-18 00:00:00
20. 旧显卡跑大模型-AI民主化
今日头条 2026-06-14 00:00:00
21. 8G 显存的胜利：如何在老旧显卡上复现顶级 AI 效果？
GitCode 2026-04-25 00:00:00
22. 当年炼丹神卡RTX2080Ti跑本地大模型(30B参数级别)速度怎样？
微信公众号 2026-07-22 00:00:00
23. 11G 显存 RTX2080Ti 能否运行 12B 开源大模型？Gemma4 12B 并行任务完整实测
知乎 2026-07-16 00:00:00
24. 11G 显存 RTX2080Ti 运行 35B MoE 大模型实测｜Qwen-AgentWorld 网站解析、游戏开发、数学答题全场景
知乎 2026-07-19 00:00:00
25. 本地跑LLM，三大新工具破硬件门槛
微信公众号 2026-06-13 00:00:00
26. 【实测测评】0代码本地部署大模型！ADM一键部署工具，2080Ti实测全模型跑分｜告别命令行部署 - 哔哩哔哩
哔哩哔哩 2026-06-17 00:00:00
27. 使用6张22G单卡的2080ti显卡，运行MiniMax-M2.5-UD-IQ3_XXS.gguf，对做T程序进行编写，目前100G以下大模型minimax的编程能力依然无人能及，为本地运行最佳编程模型，新增可T个股声音提示，不用担心忙碌的时候错过做T机会，新增买卖佣金功能，对数据更佳精细化控制，新增个股详情页面可T价格、可T差价显示，继续增加操作效率，可实现从提醒到完成委托，不到3秒即可完成操作，大大增加了交易的成功率 从25年7月开始模拟，现以满8个月，程序已经完全具备实战能力，已开户，等待调佣后，于4月左右开启实战，程序数据清零后，计划每日进行更新视频，开启2026新篇章#大模型 #量化
抖音 2026-03-10 00:00:00
28. aiforge: 一键同步多工具 AI 编程配置
微信公众号 2026-06-03 00:00:00
29. 使用3张2080ti，每卡22G，运行千问大模型Qwen3.6-35B-A3B-Q8_0.gguf，每卡占用约16G，模型大小34.4G，上下文256K，占用显存总共约47G，0上下文的情况首次对话为73词元/s，使用opencode进行编程测试，运行命令CUDA_VISIBLE_DEVICES=3,4,5 ~/llama.cpp/build/bin/llama-server --port 8000 --host 0.0.0.0 --n-gpu-layers -1 --parallel 1 --ctx-size 230000 --flash-attn on --batch-size 4096 --ubatch-size 1024 --cont-batching --no-mmap --mlock --split-mode layer --cache-type-k q8_0 --cache-type-v q8_0 --temp 0.6 --top-p 0.95 --top-k 20 --jinja -m /home/boyiu/models/GGUF/Qwen3.6-35B-A3B-Q8_0.gguf，首句话为73词元/s，当上下文2万时，72词元/s，当上下文5万时，52词元/s，10万上下文时，36词元/s 千问3.6这款模型能力已经超越minimax2.7的量化版模型，代码能力拉满，速度提升，逻辑拉满，工具使用恰当，已经完全具备可以切实解决问题的能力，后面将做为主力模型使用
小红书 2026-04-17 00:00:00
30. 1300块捡一张曾经的卡皇？RTX 2080 Ti 11G，老旗舰还剩几分功力
微信公众号 2026-08-07 00:00:00
31. DeepSeek V4 本地部署指南
微信公众号 2026-06-01 00:00:00
32. 部署正式版DS-V4-Flash-0731成本真的不高!
微信公众号 2026-08-02 00:00:00
33. 计算机配置推荐？
知乎 2026-05-24 00:00:00
34. RTX 2080 Ti 22G 成功部署 Qwen3.6-35B-A3B：低成本实现本地 Token 自由
今日头条 2026-04-26 00:00:00
35. 不用 24G 显存！Qwen3.5 9B 本地离线实测，自动写游戏、解高数题
今日头条 2026-07-17 00:00:00
36. 旧显卡焕发新生：2080Ti成功部署Qwen 3.6 35B大模型，实测67 TPS与128k上下文
Toy Tech Blog 2026-04-26 00:00:00
37. 四千装设计主机，通吃 AI 绘图 3A，性价比有多高？
今日头条 2026-06-30 00:00:00
38. 当年炼丹神卡RTX2080Ti跑本地大模型(30B参数级别)速度怎样？
微信公众号 2026-07-22 00:00:00
39. 两张RTX 2080Ti跑大模型是否能挑战身价6倍的RTX4090?(速度全面对比版)
微信公众号 2026-07-25 00:00:00
40. 22G的RTX2080TI能做什么？
微信公众号 2026-07-23 00:00:00
41. 💻【RTX2080TI魔改22G 真香警告】💻 🔥
什么值得买 2026-06-29 00:00:00
42. 本地跑LLM，三大新工具破硬件门槛
微信公众号 2026-06-13 00:00:00
43. 300拿下22G显存？AI党血赚了💥
什么值得买 2026-06-29 00:00:00
44. 11G 显存 RTX2080Ti 能否运行 12B 开源大模型？Gemma4 12B 并行任务完整实测
知乎 2026-07-16 00:00:00
45. aiforge: 一键同步多工具 AI 编程配置
微信公众号 2026-06-03 00:00:00
已收藏
去我的收藏夹