Meta 的机房里,数十万块 GPU 在庞大的数据集上多轮迭代。只要有一块卡因为等数据停下来,整批任务都得跟着等。
Meta 算过一笔账:如果 GPU 有 20% 的时间在空转,对一个规模相当于曼哈顿的数据中心来说,每小时损失数千万美元。 这不是假设。知乎
AI 计算性能大约每两年提升三倍,存储和互连性能的提升却要缓慢得多。两条曲线越拉越开,存储就从“配套组件”变成了“瓶颈”。

Meta 的解法,不是买更快的硬盘。
他们把训练数据的访问统一到 BLOB Storage 接口。对象级访问省掉了传统目录一层层解析元数据的步骤,尾延迟更可控。
更关键的一步,是把 GPU 主机上闲置的内存变成分布式缓存,平均缓存命中率做到 80%,数据加载时间平均下降 93%,最差情况下降 97%。知乎

读到这里会发现,Meta 动的不是“盘”,是“路”。数据放在哪、要经过几层、能不能提前搬到离计算最近的地方,这些决定了 GPU 是满负荷还是干等。
国内一家银行也踩过同一条路。去年,他们把大数据中台从存算一体改成存算分离,存储成本第一个月就降了 35%。
第二个月,月末批处理的投诉来了。20 个 Spark 作业同时跑,每个作业读大约 400-500GB 数据,全部要走集群到对象存储的内部网络。
那条网络是 10Gbps,理论线速 1.25GB/s,扣掉 TCP 开销,实际有效吞吐约 1.05GiB/s。
以 10TB 数据量估算,纯读取时间就要约 2.6 小时,而批处理必须在凌晨 4 点前跑完。 那天没跑完,下游文件晚发了近一小时。知乎
排查时他们发现,Spark 的实际计算时间只占总耗时的 30%-40%,大部分时间在等数据。
临时解法是在计算节点上加一层 Alluxio 读缓存,用本地 NVMe SSD 兜住反复读取的基础数据,命中率做到 70% 以上,过网流量减少了一大半。
问题不在存算分离,而在选型时只算了存储的账,没算带宽的账。
这件事放到 AI 集群里,会被放大得多。今年 6 月,ISC2026 的 IO500 榜单上,中科曙光 ParaStor F9000 拿下生产型全节点和 10 节点双榜第一。36氪

榜单之外,更值得看的是需求变化。AI 存储的核心指标,正从“大容量、高吞吐”转向“低延迟、高并发、强扩展”,靠的是存算分离加 RDMA、NVMe-oF 这类高速互连,把延迟压到微秒级。
更现实的是,存储本身正在变贵。集邦咨询的数据显示,四季度服务器 RDIMM 合约价预计环比涨 18%-23%,企业级 QLC 固态硬盘涨 23%-28%。 容量越贵,越不能靠堆盘解决问题。36氪
所以“存储网络”这四个字,重点常常不在存储,而在网络。
买存储之前,先做一道算术:高峰期要读多少数据,业务窗口有多长,两者相除得到需要多少有效带宽;再把协议开销、客户端并发上限、缓存命中率算进去。算完再决定,是加带宽,还是把缓存往前推。
盘快,决定一次能搬多少;路近,决定数据多久能到。AI 时代真正贵的,往往是后者。