一篇关于AI架构的新论文,引发了行业对“存算分离”的热议。该技术主张将AI的记忆功能外置,让模型专注于思考推理,从而大幅提升效率与性能。这一思路不仅为AI发展指明了从蛮力堆砌到精巧设计的新路径,更清晰地揭示了背后硬件赛道蕴藏的巨大潜力和确定性机遇。
智能速览
AI新架构Ingram主张将记忆功能外置,让模型专注思考推理。
实验证明该方案能让270亿参数模型性能超越同侪,训练计算量减少18%。
软件架构创新与硬件瓶颈攻克相辅相成,共同推动AI向前发展。
AI发展对硬件提出更高要求,算力、存储和传输速度成为永恒赛道。
半导体设备、高端存储芯片、算力基础设施是硬件升级的关键环节。
精华内容
存算分离的软件架构越成功,越凸显硬件“内存墙”瓶颈的紧迫性。这并非矛盾,而是技术演进中,软件定义需求、硬件实现需求的必然循环。下面将深入拆解这一逻辑,并探寻硬件领域的关键赛道。
存算分离新范式
AI新架构Ingram的核心思想,是让模型不再需要记忆所有事实知识,而是像人类查字典一样,将这部分“记忆”任务交给一个外部的、高速的“电子字典”。大脑(模型核心)只负责高级的思考、推理等任务。
实验数据显示,当一个模型将约20%-25%的“脑容量”用于构建这个外部记忆表时,整体效率和性能达到最优。一个270亿参数的模型采用此方法后,在多项任务上超越了同等规模的传统模型,同时训练过程节省了约18%的计算量。这标志着AI发展正从单纯堆砌算力和参数的蛮力阶段,转向更为精巧的架构创新阶段。
软硬件的辩证法
探讨存算分离与存算一体的关系,表面看似乎矛盾,实则不然,二者是技术演进的阴阳两面,互相推动。软件架构(如Ingram)从顶层设计出发,定义了理想的AI工作流,这相当于绘制了一幅超级城市的蓝图,要求核心区与仓储中心之间有瞬间传送通道。
而存算一体芯片则从物理底层出发,试图通过在存储单元内直接完成计算,从根本上消灭数据搬运的距离和耗时,相当于在物理上修建这道“传送门”。软件的野心越大,对硬件基础能力的压榨和需求就越迫切。
永恒的硬件赛道
从软硬件关系推导出硬件的确定性。无论AI软件算法如何演变,其背后都有一条永恒的赛道:硬件必须算得更快、存得更快、传得更快。AI智商要起飞,脚下硬件的地基必须不断加高。
这带来了三个关键的硬件方向。首先是算力核心,包括GPU和各类AI加速器。其次是应对“内存墙”的高端存储与存算一体芯片,HBM已是标配,存算一体则是终极物理路径之一。最后是承载和连接一切的算力基础设施,如先进服务器、高速网络和高效散热系统。
远征的现实挑战
硬件发展的困难比软件更多,充满不确定性。最大的挑战是极高的技术壁垒和生态依赖,半导体设备是精密制造的王冠,需要长期积累和全球协作。其次是巨额资本投入和漫长的回报周期,一条先进产线投资动辄千亿,技术迭代快,风险极高。
最后,地缘政治因素已成为无法忽视的变量。因此,关注AI硬件,与其追逐短期概念,不如建立长期视角:紧盯半导体设备龙头的研发与订单、关注AI芯片公司的产品与生态构建、留意算力基础设施的产能升级。
总而言之,DeepSeek的这篇论文不仅展示了AI通过架构创新跨越瓶颈的潜力,更清晰地映照出支撑所有创新的硬件根基。AI的大脑正在学习更聪明的工作方式,而为它建造更强健、高效的躯体和神经系统,是一场更为确定也更为艰巨的远征。在这场远征中,谁将率先突破?