内存有救啦!谷歌发布AI压缩神技,闪迪、美光等存储芯片厂股价应声下跌
谷歌公司发布的一篇关于新型AI压缩算法的论文,引发了资本市场的连锁反应,导致闪迪、美光科技等主要存储芯片制造商的股价应声下跌。
事件的起因是谷歌公布了一项名为TurboQuant的创新压缩技术。这项技术主要针对当前大型语言模型(LLM)在运行时的一个关键瓶颈——键值缓存(KV cache)。简单来说,KV缓存是AI模型为了避免重复计算而保留的“短期记忆”,随着用户与模型的对话或处理的文本越来越长,这个“记忆”占用的内存会急剧膨胀,成为运行AI应用时最消耗内存的部分,也是成本高昂的主要原因之一。
谷歌的TurboQuant算法声称,可以在几乎不损失模型准确性的前提下,将KV缓存的内存占用压缩至原来的六分之一左右(即压缩至3比特精度)。此外,在特定测试中,该算法还能将AI模型中一部分关键计算的速度提升高达8倍。这意味着,未来运行大型AI模型可能不再需要那么多昂贵的内存芯片。
这一消息直接冲击了存储芯片行业的增长逻辑。此前,市场普遍认为AI技术的蓬勃发展将带来对高性能内存和存储芯片的巨大需求,这也是支撑闪迪、美光等公司股价上涨的重要因素。谷歌的新技术让投资者开始担忧,如果AI对内存的依赖性通过软件优化而大幅降低,那么对硬件的长期需求可能会减弱,从而影响这些公司的未来营收。受此预期影响,美股开盘后,闪迪、美光科技、西部数据和希捷科技等存储板块公司的股价普遍出现显著下跌。
这一突破性的技术进展在科技圈内引发了热议,有人将其比作热门美剧《硅谷》中能够颠覆行业的虚构压缩技术“魔笛手”(Pied Piper),认为这是AI效率提升的又一里程碑。
然而,一些华尔街分析师和行业观察者提出了不同看法,认为市场的恐慌可能为时过早。他们指出TurboQuant技术目前仍处于论文和实验阶段,主要在参数量相对较小的模型上得到验证,尚未在更大规模的模型上证实其效果,也未在谷歌的生产系统中大规模部署。从研究成果到广泛的工业应用,仍有一段距离。
分析师援引了经济学中的“杰文斯悖论”(Jevons Paradox)。该理论指出,当一种资源的使用效率提高、成本下降时,其总消耗量反而可能增加。应用到此次事件中,TurboQuant降低了AI推理的成本门槛,可能会激发更多原本因成本过高而无法实现的应用场景,促使更多企业和个人使用AI,从而可能带动对计算和存储资源的总需求进一步增长。
有观点强调,TurboQuant主要优化的是AI“推理”阶段的KV缓存,并不影响AI“训练”阶段对内存的需求,也不减少模型本身权重所占用的高带宽内存(HBM)。因此,它解决的是特定环节的效率问题,而非全面削减了AI对所有类型内存的需求。
谷歌的新论文展示了通过算法创新大幅提升AI运行效率的可能性,并因此引发了市场对存储芯片需求前景的短期担忧,导致相关公司股价承压。但从长远来看,该技术是否会真正减少硬件总需求,还是会因为降低AI使用门槛而催生出更大的市场,仍有待观察。
