25万播放的"老机跑大模型"原来是广子，DDR4老本跑7B只有3 token/秒：2026老机AI复活潮，先把三本账算清
最近一个月，"给老电脑找个新活儿"的答案，在复古计算圈里悄然换成了同一个词：本地大模型。
一边是教程和"显存需要表"扎堆发布——9月7日知乎上一篇《2026年本地大模型，显存需要表》直接给8G/12G/16G/24G显卡标好了能跑什么。 一边是各种"神话"视频——《不用显卡，纯CPU部署大模型！效果惊人》在B站拿到25万+播放。 引进中配的那条"7440亿参数、无需GPU、25GB内存笔记本也能跑GLM-5.2"，说的也是同一件事：前沿大模型开始往普通设备上塞。知乎哔哩哔哩哔哩哔哩
手里有台2016-2020年的老台式机、老商务本，内存16-32G，显卡要么是核显要么是十年前 GTX 的老玩家，很难不心动：难道这堆"等等党永远不亏"的老机器，2026年要翻身成免费AI盒子？
心动之前先把话说明白：“能跑”、“能用”、“值得用”，是三件事。这三笔账，我按近两个月B站、知乎、评论区的实测和吵架样本替你算清。
第一本账：速度——瓶颈不是你CPU的核数，是内存带宽
这是本轮讨论里最反常识、也最硬的一条信息。9月7日知乎那篇老笔记本对比AI PC的回答给了一个公式：大模型每吐一个token，都要把模型权重从内存里读一遍，理论速度≈内存带宽÷量化后的权重体积——整个式子里没有TOPS、没有核数。
按这个口径，7B模型Q4量化（权重约4G）在不同机器上的实测/估算速度阶梯大致是。知乎
机器档位 | 内存带宽 | 7B Q4 实际观感 |
|---|---|---|
DDR4双通道老本/老台机（51.2GB/s） | 最低 | 约3-5 tok/s，“看字幕” |
2024后AI PC核显+LPDDR5X（约120GB/s） | 中 | 约15-25 tok/s，刚过舒适线 |
RTX 4060笔记本（272GB/s） | 高 | 约30-50 tok/s |
RTX 4090（1008GB/s） | 顶 | 约90 tok/s |
那位回答作者给的人类舒适线是15 tok/s——低于它，“你会忍不住想帮AI把字打完”；他还提醒，AI PC比老本快出的那四倍，百分之百来自内存带宽从51GB/s涨到120GB/s，跟NPU那50 TOPS一毛钱关系没有。也就是说：你的老机不是慢一点，是在另一个物种区间。更糟的是，16G内存的老机装大一点的模型，一旦开始swap，连鼠标都会卡死——这不是加速，是把你现在唯一流畅的日常使用也搭进去。知乎
GLM-5.2那条视频同理：744B参数的MoE，靠Unsloth动态2-bit量化把1.4TB权重压到约239GB，再把注意力层+共享专家约10GB常驻内存、专家模块放SSD按需流式加载（1300行C文件的Calibri引擎就是这么干的），最后在一台12核25G内存笔记本上跑起来——代价是每生成1个词元要从SSD读约11GB权重，消费级NVMe约10秒一个词。视频作者自己也不吹：这适合"通宵代码重构、研究任务"，不适合实时聊天。"前沿模型跑进笔记本"是真的，"能用它干活"目前不是。哔哩哔哩
第二本账：模型——2026年消费级硬件的天花板和断层，比你想的陡
那台8G显存的老游戏卡能跑什么？16G内存无独显能跑什么？黑虾那份《显存需要表》把2026年9月的现状说得很直接：
8G/12G/16G显存能跑的最强通用模型，都是Qwen3.6-35B（MoE架构），作者实测它的智商明显高于4B、9B这些传统小模型；
24G及以上才摸得到Qwen3.8-27B Q4，这是目前消费级硬件能跑的最强本地模型；
27B之后直接断层——下一档是180B参数的Qwen3.8-Flash-Next，Q4量化也要约95GB显存；
结论：对个人玩家，24G显存就是天花板，32G、48G和24G能跑的模型一样，只差上下文长度。
换成人话：老独显玩家的窗口期就是这代小MoE。如今Qwen3.6-35B Q4这个量级，8G、12G、16G的老卡都在这张表的可跑名单里。 而无独显的老机，现实选择只有2.6B-9B的小模型——8月刚出的LFM2.5-2.6B，评论区已经有第一批用户在晒"感觉很好用，还在更多测试"。 这条线吵得很凶：一派说最新手机都能跑8B、够用，一派说至少14B起步才勉强像个人。知乎哔哩哔哩哔哩哔哩
折中的判断是：小模型做翻译、摘要、写作辅助是及格的；做Agent、多轮工具调用，会明显翻车。上面那篇对比文的说法是：小模型做复杂工具调用稳定性差，差不多三成情况会输出错误格式、调用工具失败，得反复重试。 这个比例不必精确当真，但方向被反复验证。知乎
另外9月11日B站刚出了一期讲llmfit工具的（GitHub项目AlexsJones/llmfit，v1.1.15），核心思路值得学：别乱下模型，先按自己的硬件核对、筛出三个候选，对齐量化和上下文，再用真实任务验收。教程圈目前公认的最大坑就是"下完20G GGUF才发现显存不够"。哔哩哔哩
第三本账：成本——老机续命到底比云端便宜吗，算给高频用户看
三组9月的真实价格摆在一起就清楚了。换一台9000元的游戏本，按三年折旧算一个月250块；租AutoDL的4090按3块一小时、每天3小时，一个月270块——价格差不多，体验完全不在一个层面：租来的4090能跑70B、90 tok/s，你自己的新本跑32B"想都别想"。知乎
再看API这边：一个累计20万token、多轮规划反复调用工具的复杂智能体任务，云端跑下来成本也就一块多钱。知乎
也就是说，"老机跑本地=免费"从第一步就不成立：电费、硬盘读写损耗（GLM-5.2这种SSD流式跑法每词元读写约11GB，是在烧你硬盘的寿命）、装环境排错的时间（“真正干活的人……修环境报错用了好几个小时”），哪一样都不要钱似的。而且别忘了大前提：本轮老机行情的底层变量恰恰是存储暴涨——DDR4报价反超DDR5、1TB固态卖到千元以上，"给老机加根内存条跑AI"的账，在2026年是逆势的。哔哩哔哩
那位拿了83万阅读的知乎答案把话撂得很狠：本地部署大模型无非是赛博囤积症的AI升级版——花三五万买显卡、交着高额电费，跑出来的东西智商大概率赶不上免费的网页版。 但同一条回答也没否认另一件事："不过折腾的时候也是快乐的。"这就是我们这种人玩老机的正当性。所以值得给本地部署留三个例外：数据绝对不能出内网；任务高频且可批处理（通宵挂任务）；7x24常驻（家里那台老机反正开着）。这三条之外的"省钱"理由，基本都不成立。知乎知乎
避坑清单：先分清"实测"、“软广"和"嘴替”
这一波信息噪音极大，三个识别法：
看置顶和简介。那期25万播放的"纯CPU部署大模型"，简介开头就是亚马逊云的体验链接。 置顶评论是双十一活动入口，评论区也有老哥点破："亚马逊用的是arm芯片，最近疯狂投广。"CPU部署这条路本身可行（llama.cpp/OpenVINO这一路社区一直在优化），但这期视频不是为你家老机写的。哔哩哔哩
看是否声明AI生成。播放1.8万的《本地大模型电脑怎么配》，标题括号里自己写明本期视频全部由AI Agent制作、配音、剪辑——配置表可以当索引，别当购买建议。哔哩哔哩
NPU别当算力买。“这台机器NPU有50TOPS"是当前PC卖场最熟练的话术，而真实LLM推理负载下各家NPU利用率普遍不足5%，本地推理栈（llama.cpp/Ollama/LM Studio）优化的都是CUDA/Metal/ROCm/AVX。真实大模型推理负载下，各家NPU的利用率普遍不足5%。 NPU的真实价值是低功耗常驻的小任务（虚化、字幕、降噪），那位作者估价"大概值两百块”，不是跑大模型的钱。知乎
对了，还有复古圈的保留节目——评论区高赞"51单片机能跑吗"（145赞）、“时间会证明GT610疯牛病版”。这些是梗，不是问题。你那台486/奔腾的老机和大模型无关，它的价值归它的价值；真要进这个局，得是12代酷睿+16G往上这个级别的"近代垃圾"才算入场券。
三类人，三条路
手里有12G+老独显的（3060-12G/2080Ti/4060）：这是2026本地模型性价比最好的一档，值得动手——llmfit筛候选，Qwen3.6-35B Q4起步。3060 12G在评论区早就被判定"都够运行14b了"，跑通"离线写作/翻译/代码补全"就是回本。哔哩哔哩
只有核显+16G内存的老本老台机：把它当"字幕速AI+通宵批处理机"，别当聊天机器人。内存别在涨价顶点强上32G，先拿手头容量测（7B Q4约需6-8G占用，加上系统其实已经顶格）。
想拿AI干活、写代码、跑Agent的：买API额度或租云GPU，比折腾老机便宜一个世代还强一个世代；老机继续做它擅长的事——摆着好看，和怀旧。
最后给一个继续观察的信号清单：MoE专家SSD流式卸载（Calibri、llama.cpp这条线）会不会把"10秒一词"压进可忍受区间；Q1及以下量化的可用性拐点；Qwen/智谱下一代小MoE的智商台阶；以及云GPU和API的价格——本地和云端的差价一缩小，老机AI盒子这批需求就会立刻退潮，到时候你手里那台老机最体面的归宿，还是那台Win98旁边落灰的CRT。
