本地跑大模型,先腾出372G盘位:给AI主力机换致态,速度反而是最不用看的那一项
10月13日,致态官方微博给TiPro9000挂出的新话术是"跑个AI大模型,硬盘先拉胯了?"——14900 MB/s顺序读取、2100K IOPS 4K随机读取,卖点直接对准本地大模型人群。而在另一边,B站一个RTX5090+32G内存的实测给出的却是泼冷水的数字:93GB的IQ4量化MoE模型放硬盘跑,只有4.8 tokens/s。开源引擎colibri更极端,跑744B不需要显卡,但要求你先腾出372G盘位,作者自己也在主页贴出了诚实的基线数字。新浪微博哔哩哔哩知乎
两边都真实,拼起来才是硬盘在本地推理里真正的位置:它不决定你一个字一个字出多快,但它决定你每次开机等多久、切几个模型、以及硬盘在整机涨价潮里该花多少钱。这篇就把这三笔账,按致态现在在售的几条线算一遍。

先纠偏:本地推理里,硬盘干的三件事和三件不管的事
知乎一个2.6万播放的本地部署回答里,被反复引用的原话是"本地部署的门槛,正在从显卡挪到硬盘"。这句话对,但要拆开看,不然很容易买错。知乎
硬盘管的三件事:
加载与切换等待。模型权重从盘进内存,是纯顺序读取场景。93GB的权重文件,按官方标称的14900 MB/s,六秒多进内存;按TiPlus9100的实测水平,八秒——差评硬件部在Intel和AMD双平台把它测到了12000MB/s。换上一代PCIe4.0盘,这个时间基本翻倍。每天切四五个模型、或者频繁重启调参的人,这项的累积时间远比你想象值钱。哔哩哔哩
"权重躺盘上"时的按需读取。这是今年本地圈最大的变量:colibri把744B模型拆成三层摆放,注意力加词表约17B常驻内存,剩下的权重全部放硬盘上按需读取,被调用最多的专家再钉回快层。这个玩法下,考验的不是跑分软件里的峰值顺序读,而是4K随机读、主控调度和满盘后的性能保持。HOMOLAB测Ti600s 2TB专门盯了这项,结论是满盘衰减控制得极好,几乎全部项目打到Gen4最佳水准、反超部分TLC盘。知乎哔哩哔哩
空间本身。跑一个35B的MoE,colibri官方门槛表写的是20G盘起步;跑744B,腾372G;本地编译一个Strata版本,先吃掉约100G;模型库攒到十几个,1TB就见底。知乎那篇271条评论的《本地部署大模型需要什么配置》给的装机建议也是同一方向:至少1TB的NVMe固态硬盘,模型加载速度比机械硬盘快几十倍。哔哩哔哩知乎
硬盘不管的三件事:
不出字的速度。93GB模型那4.8 tok/s的实测,瓶颈在近100G权重走虚拟内存、32G内存装不下——硬盘再快也救不了内存的闸门。colibri作者在25G内存的开发机上跑同一套int4模型,冷启动只有0.05到0.1 token每秒,出一句话等二十秒,他自己把这行贴在了主页上。知乎
上下文和并发,那是内存/显存的事。
模型本身的质量,跟硬件无关。
还有一项双方都绕不开的:温度。把西数SN8100、三星9100PRO、英睿达T710 PRO和致态TiPro9000摆在一起做四大Gen5旗舰横评的艾小白,给所有四款的提醒是"一定要做好散热,温度一高就会大幅度掉速",并点名9100PRO温控一般、后期掉速明显。自费长测TiPro9000 2TB的UP"讲广普的YEX"(242条评论)则给出另一半信息:在行业齐涨的环境下它反而降价,温度和功耗表现"独树一帜"。本地跑大模型不像游戏,权重常驻、高频按需读盘,是长时间稳态负载,散热这笔账要在下单前算,不是掉速了再补。知乎哔哩哔哩
容量账:先看你要跑的模型多大,再谈买多大的致态
把社区实测口径的"档位—占盘"关系整理出来(权重体积来自各部署实测帖,量化格式不同会有出入):
你想跑的档位 | 社区实测口径的占用 | 盘的建议 |
|---|---|---|
4B(如Qwen3.5-4B,18年老本i5+24G内存可跑) | 常驻内存约3.5G | 现盘加得下就无需动 |
9B档 | 内存16G起,量化文件5-6GB | 同上 |
27B量化 | 约18GB | 1TB从容 |
35B MoE(colibri口径) | 20G盘位 | 1TB可开库 |
Qwen3.8-Flash-Next IQ4 | 单模型约93GB | 2TB起,留一倍余量 |
744B(colibri,免显卡) | 专家权重约370G,建议腾372G | 4TB或专用副盘 |
这个档位表里的量化体积,可以直接对照那篇271条评论的配置教程——9B量化版大概5-6GB,27B量化版大概18GB,72B量化版接近40GB。再给一个能直接抄的判断:你的盘 = 当前最大的模型文件 ×2(量化迭代和换模型都要地方)+ 数据集/语料 + 系统本体。模型库只有几个20G级的,别为"以后可能要跑744B"提前上4TB——colibri路线的出字慢是真慢,大概率你试一次就回去调API,这已经被大量实测帖验证过。反过来,如果你已经稳定在90G级的MoE上日用,1TB盘装两三个模型就75%满,这时候满盘性能保持和温度,比峰值跑分重要得多。知乎
四条产品线,对号入座:三种AI玩家各自怎么挑
① 入门补课党(4B/9B,轻薄本或8-16G内存老台式机):扩容比换盘划算。
TiPlus7100s是这一档的默认答案:1TB近期京东券价1149~1199元(10月12~14日多张券帖口径),拼多多百亿补贴8月底做到过1009。纯装模型库、不跑重负载的话,还可以看QLC路线的Ti600s——8月发布时1TB首发1189元,10月14日的B站横评给它的标签是"读写差不多,但比同类产品便宜600元,1GB不到1块钱"。注意边界:QLC盘长期不通电的冷数据风险这篇不展开(之前聊致态Ti600时讲透),你的盘如果是天天在写、周周在用的模型仓库,这项风险很小;如果是囤完就扔抽屉的归档盘,别拿它当保险柜。哔哩哔哩

② 笔记本/PS5等单面位党:看TiPlus9100,但要盯挂牌价和券价的差。

官方给这块PCIe5.0无缓盘的卖点话术正好逐条对着笔记本玩家的痛点:顺序读取12000 MB/s、随机读写1850K IOPS、单面PCB设计、低功耗不降频。2TB在双11期间的挂牌与券帖喊出的"987/1015/1025史低"差了一倍,截图价先核实再心动(叠券和各地国补差异很大)。新浪微博
③ 主力AI装机/重offload党:TiPro9000是目前国产盘里最像"AI盘"的那块。
致态首款PCIe5.0有缓旗舰,官方最新标称14900 MB/s、2100K IOPS,爱否科技拿它做过"13分钟塞满4TB"的暴力测试。HOMOLAB给它的判词是"三星杀手",认为它尽管没打赢PCB01,但已是目前第二强的Gen5 SSD。价格面上,4TB版本6月起就在4000+的讨论里被艾小白认定是四大Gen5旗舰里性价比最高的一个。适合谁:内存64G以上、想让370G级专家权重在盘上"用得越多越快"的colibri玩法用户,以及模型库常年满盘的人。配它记得装散热片,这盘的性能是按稳态释放的。哔哩哔哩哔哩哔哩知乎

窗口期怎么判断,以及接下来盯什么
行情背景先摆平:这轮涨价从2025年10月才真正爆发——2TB PCIe4.0曾经只要400多的时代结束了,1TB PCIe4.0已经涨到千元以上,行业机构甚至认为降价要到2028年。致态能逆势放价,底牌是长江存储的产能扩张——有市场观点直接把"长江456期放量"当作国产固态回到低价的可能变量。但涨价停了没停、双11会不会再压一档,这类时机问题之前已经掰开算过,这里不重复下结论,只给这个人群三条和硬盘真正相关的观察信号:知乎知乎
权重格式和offload优化的更新:colibri这类引擎每优化一次"钉盘策略",对4K随机和满盘性能的要求就重新洗一次牌,买盘前看一眼你主力引擎的近期更新日志;
新模型权重的体积曲线:Qwen3.8系开源档热度还在涨,下一个爆款量化包是20G还是90G,直接决定你该按哪一行查上面的容量表;
装完盘第一件事:用致态官方的"天枢大师"跑一次健康度和固件检查,它的功能就是监控固态健康状态、执行原厂级维护。本地党的盘是24小时稳态负载,别等首次开机加载372G权重时才发现固件停在旧版。中关村在线
硬盘确实正在从"配角"变成买盘清单上的第一个问题,但买盘的人分两种:一种为"以后可能要跑更大的"付费,一种为"我现在每天多等的那十几秒和满盘降速"付费。前者大多数时候会后悔,后者基本不会。
你盘里现在躺着多大的模型、机器还剩多少G盘位?按"当前模型×2+语料"对一遍上面的表,答案大概率比跑分榜诚实。