什么值得买App下载 App ›
连续签到专享现金活动

GPU堆了一堆,Token还是算不出来?真相扎心了

过去两年,国内AI产业的Token日均调用量从约1000亿飙升至140万亿,增幅超过1400倍。这个数字背后藏着的事实是:算力不够用的情况正在以肉眼可见的速度变化——芯片不再是唯一的卡点,数据搬运的能力开始成为新的瓶颈。12
对需要搭建AI基础设施的企业来说,这个转变意味着选型逻辑要跟着变。以前比的是芯片制程和算力规模,现在要比的是系统级的协同效率——数据能不能快速流转、跨节点通信损耗有多大、集群能不能弹性调度。这些指标越来越决定着一套算力系统的真实产出。
Token涨了一千多倍,算力够不够用变了没
Token调用量的爆发式增长背后有两层驱动力。智能体规模化落地是最直接的原因:传统问答场景下单次交互消耗有限,但智能体要完成一次任务往往会触发数十轮模型调用、多轮工具联动和持续迭代,算力需求呈指数级上涨。与此同时,AI应用正从训练阶段全面转向推理商用阶段,政企、科研、航天等行业的批量接入进一步推高了日常消耗。3
需求的暴涨带来了一个悖论:芯片产能其实在持续扩张,但算力仍然不够用。行业里有一种说法叫“算力焦虑”,意思是企业在采购了足够多的GPU之后,发现集群利用率迟迟上不去。中国信通院的数据显示,一季度AI算力需求同比上涨417%,供给增速却只有128%,缺口在持续拉大。这个数字说明,纯靠堆硬件已经追不上需求变化的速度。4
运力取代算力,成为新的短板
华为在多个公开场合表达过一个判断:在算力、存力和运力三者中,运力是当前最突出的瓶颈。这个说法正在被越来越多的从业者认可。简单理解,运力就是数据在芯片与芯片之间、服务器与服务器之间、集群与集群之间搬运的能力。芯片本身的性能再强,如果数据传不进去、传不出来,算力就只能在空转里消耗。5
这背后的根因被业内称为“韬定律”:在万卡级甚至十万卡级的大规模集群里,超过80%的能量被用于数据搬移而非实际计算。跨节点通信开销随着集群规模扩大而指数级增长,网络带宽不足、时延过高、丢包等问题直接导致算力闲置。从技术上说,单纯提升单芯片制程带来的边际收益正在递减,系统级的传输优化变得越来越关键。6
一个被反复引用的案例是:某头部AI公司的万卡集群实际利用率只有11%,而通过深度优化后,头部企业能做到40%以上。行业平均水平大约在30%至40%之间。这意味着即便不增加任何新硬件,光是把数据搬运效率提上去,就能让现有算力产出近乎翻倍。7
华为和行业玩家的方案差异在哪
面对运力瓶颈,各家给出的解法路线并不相同。华为的打法是从硬件、软件、调度、生态四个层面协同入手。硬件层面通过NPU带宽提升八倍以上来改善数据传输效率;软件层面依托星河AI数据中心网络和昇腾超节点降低分布式通信损耗;调度层面通过弹性调度适配业务波峰波谷和多并发场景。5
在互联技术上,华为推出了NPN(近封装光学)光互连方案,联合20余家产业链伙伴发起国内首个NPO光互连MSA,试图建立开放统一的标准体系。据伯恩斯坦测算,2025年AI连接市场规模约140亿美元,2030年将达730亿美元,年复合增速39%,是AI产业链增长最快的环节。8
在合作伙伴层面,华为搭建了三层专属服务体系:头部大厂配备百余人专属服务团队,中小企业联合生态伙伴提供标准化服务,涵盖算力架构规划、网络优化、7×24小时运维和开源框架适配。昇腾生态已经深度参与DeepSeek V4等头部大模型的架构调优,CANN开源社区活跃度在国内开源社区中居首。9
不过在供应链端,华为仍然面临约束。高端昇腾芯片的HBM内存仍受海外配额限制,先进封装产能也处于紧平衡状态。有分析指出,当前的增长更多是存量替代的胜利,而非先进制程的突破。每一步规模扩张都依赖供应链产能的配合,这是不可忽视的现实约束。10
选AI基础设施,到底该看什么维度
回到企业选型的实际问题。评估一套AI算力基础设施是否值得投入,可以从三个维度去看。第一是芯片本身的性能是否足够,但这条正在让位于第二条——运力效率,即数据在集群内部的流转速度、通信时延和带宽利用率。第三条是生态成熟度,包括开源框架适配程度、开发工具是否易用、出了问题能不能找到支持。
Token经济正在重构整个AI产业的商业逻辑。运营商全面推出Token计价套餐,产业从流量经营转向词元结算,大量调用量对应真实付费需求。这意味着能够持续、低成本量产Token的算力基础设施,将在整个AI产业链中占据更核心的位置。2
对中小企业来说,纯自建算力集群的门槛正在变得越来越高。更务实的路径是优先评估云端算力租赁方案的性能表现,关注网络时延、弹性扩容能力和计费透明度。对头部互联网企业而言,运力优化的空间更大,选择能够提供从硬件到软件到调度全栈协同的供应商,能更直接地提升现有集群的Token产出效率。

评论

评论区空态插画

当前文章无评论,是时候发表评论了