Qwen3.8-27B发布了，知乎上已经出现部署教程，标题起得很直白——单卡新王。对比前代，这一版在各维度全面提升，教程里的对比称其稳压Google同级别的Gemma4-31B和脸书的Glimmer-30B。知乎
我想聊的不是模型多强，而是它的入场券：Q4_K_M量化版约18GB，加上运行时的上下文开销，铁定需要24GB显存。知乎
目前能接住它的台式机显卡，主要是RTX 3090、RTX 4090和教程中提到的5090D V2这几张24GB卡，再往上就是专业卡，或者走苹果统一内存路线。知乎
更微妙的是时间点：这波模型热，正好撞上装机圈近年来最猛的一轮涨价。DDR5内存10个月涨了414%。知乎 8月15日的显卡日报里，内存行业DRAM毛利率已经涨到95%。哔哩哔哩 固态、显卡、显示器跟着涨，有数码博主感慨，内存涨价直接把装机行业干没了。微博
一边是硬件越来越贵，一边是越来越多人问：要不要装一台能本地跑大模型的AI电脑？自媒体也在添柴，一人公司、个人智能体喊得震天响，甚至出现了299元上门安装的生意。哔哩哔哩 而老玩家的评论区，冷水泼得毫不留情。今天就把这笔账算清楚。
先说清楚唯一的入场券：显存
很多人看大模型配置先看算力，其实本地推理的第一关是显存装不装得下。量化后的模型文件、推理时的KV缓存、系统开销，全要挤进显存里，按Q4量化大约每1B参数占0.5～0.6GB显存估算，眼下主流模型的门槛大致是：
模型档位 | Q4量化体积 | 建议显存 |
|---|---|---|
7B～8B | 约4～5GB | 8GB入门，12GB从容 |
14B | 约8～9GB | 12GB入门，16GB从容 |
27B～32B（如Qwen3.8-27B） | 约16～19GB | 24GB是门槛 |
72B稠密模型 | 约40GB起 | 单卡48GB档 |
再补两个容易踩的认知坑。一是MoE模型（总参数大、激活参数小）推理速度优势明显，但显存占用看的是总参数，别指望70B的MoE能塞进16GB。二是能下载不等于能跑，24GB统一内存的Mac mini M4理论上能加载17GB的量化模型，但加上系统占用空间会非常紧张，上下文一长就容易卡。知乎
垃圾佬的账本：从498元到2万8
第一条路，498元的玩具档。 最近闲鱼流出一批ITX版Tesla P100 16GB短卡，卡长只有15cm，还是双风扇。知乎
参数不差：GP100核心、16GB HBM2显存、732GB/s带宽，有玩家实测7B模型能跑到每秒58个token，塞下14B也不在话下。知乎
但垃圾佬的钱不好赚，坑都在明面上：这卡没有视频输出接口，要搭配核显或亮机卡；双8Pin供电建议500W以上电源，BIOS还要开启Above 4G，部分主板得关闭CSM才能识别。知乎 它适合当一张显存入门课，不适合当主力。
第二条路，16GB新卡入门档。 5060 Ti 16G是典型代表：新卡有保修、功耗低，日常打游戏之余跑7B～14B，入门本地生图也够用。选购逻辑其实很清晰：重度AI与大显存需求选中古3090，日常游戏与省心质保选5060 Ti。知乎 评论区老哥的路子也值得参考：先用入门的60Ti 16G配32G内存起步，然后根据想跑的模型一点一点升级。哔哩哔哩
第三条路，24GB二手3090，最纠结的一档。 3090的24GB是目前跑27B级模型性价比最高的门票，但价格已经不平静：5月就有广东老板一次收走2000张3090，把行情直接抬到6000元以上。哔哩哔哩 二手3090流通时间长，存在矿卡、老化及无质保风险，350W的功耗对电源散热也不友好。知乎 到了7月，连收卡的都在说最近3090涨价厉害。哔哩哔哩
第四条路，48GB认真档。 想跑72B稠密模型或者更复杂的生图、微调流程，24GB不够看。双3090主机已经成了明码标价的细分市场：4月还有22000元的方案，7月已经出现两万八的机器。哔哩哔哩哔哩哔哩 装机店也在推Intel Arc Pro B60这类48G大显存的新卡方案。哔哩哔哩 这一档已经是生产工具，不是爱好了。
第五条路，Mac统一内存。 CPU和GPU共享内存，32GB以上能从容装下27B的Q4量化，优点是安静省电，缺点是稠密模型推理速度明显慢于N卡。价格也不便宜，评论区有人的惨痛经历：把48G内存的M5 Pro加入购物车准备下单，犹豫了两天涨价五千元。哔哩哔哩
冷水时间：你到底需不需要装
先泼三盆冷水。
第一盆，云端真的便宜。DeepSeek这类API的调用价格已经很低，想临时跑大任务，按小时租GPU的云平台也比养一张卡灵活。只是偶尔聊天、写文案、问几个问题，云端模型通常更省事，也更聪明。知乎
第二盆，模型迭代比硬件快。Qwen3.6到3.8只隔了几个月，硬件一次买入，模型一季一换。连部署教程的作者都在劝：现在电脑硬件价格太高，非必要强烈建议不买，还不如用云端API划算。知乎
第三盆，本地模型不要钱是最贵的一句话。模型免费，电脑不免费，时间更不免费。知乎
那什么人适合装？综合各平台的讨论，基本是四类：手里有不能上云的资料、需要断网使用、每天高频使用，以及想在本地跑生图——最后一类是目前本地部署的主力，评论区有人刚花27000元配了一台跑ComfyUI、SD加30B大模型的机器。哔哩哔哩
拿不准的话，有个7天试错法：先装LM Studio或Ollama，下载一个7B的Q4小模型，把平时真的会做的任务全部跑一遍，连续用7天。知乎 7B就够用，这笔钱直接省下；每天都在用且慢到影响工作，再谈升级——到那时你自然知道该买什么，不容易被参数和跑分忽悠。
真打算装，记住三件事
显存优先，带宽其次，算力最后。预算有限时优先单卡大显存；双卡并联能扩显存，但要主板插槽、电源、散热都留足余量，部署也比单卡多一道手。
涨价期不建议冲动买全套，买就先买显卡和内存这类硬通货。这波硬件保值已经魔幻到：有人花近3万装机，闲置后赶上硬件涨价，4万卖掉了。哔哩哔哩 但请把装机能赚钱当段子，别当购买理由。
盯三个信号：大促节点、内存原厂产能与财报动向、下一代模型的显存需求。当主流模型的Q4体积普遍落到16GB以内，16GB卡的甜点期才算真正到来。
最后问一句：你装本地大模型是想干什么？装了什么配置，或者在纠结什么？评论区聊聊。
