张大妈

英伟达花200亿打脸!黄仁勋承认自己错了?#ai生活指南# #ai创造营# 红衣大叔周鸿祎的微博视频

源自新浪微博:红衣大叔周鸿祎

01-19 18:12

英伟达豪掷约200亿美元收购推理芯片公司Grok,这一动作被看作是其历史上一次罕见的战略性“自我否定”。这标志着AI产业的重心正从训练转向推理,一场关于算力成本与效率的竞争已经拉开序幕。理解这次收购,就能看懂AI技术普及背后的核心逻辑与未来走向。

英伟达花200亿打脸!黄仁勋承认自己错了?#ai生活指南# #ai创造营# 红衣大叔周鸿祎的微博视频智能速览

  • 英伟达斥资约200亿美元收购推理芯片公司Grok及其核心团队。

  • 此次收购标志着黄仁勋对专用ASIC路线的认可,与此前观点相悖。

  • AI算力需求正从训练转向推理,后者更追求性价比与能效。

  • 英伟达GPU虽强大,但在大规模推理场景下成本优势不足。

  • 英伟达旨在获取Grok的推理专利与顶尖的专有芯片设计团队。

英伟达花200亿打脸!黄仁勋承认自己错了?#ai生活指南# #ai创造营# 红衣大叔周鸿祎的微博视频精华内容

黄仁勋为何宁愿“打脸”也要拿下Grok?根本原因在于AI的规则变了。曾经被低估的推理算力,如今已成为决定AI能否大规模普及的关键,其重要性正以前所未有的速度超越训练算力。

AI重心之变

AI发展的规则正在经历根本性转变。如果说模型训练是一次性的大工程,如同建造一座工厂,投入巨大但周期固定,那么模型推理则是持续不断的运营过程,更像是庞大的产品配送网络。

模型一旦上线,每服务一个用户都会产生实时的算力成本。用户规模越大,模型越成功,推理环节的消耗就越高,成为一笔持续燃烧的巨额开销。因此,当下AI领域最烧钱的部分,已不再是训练模型,而是如何高效、低成本地运行模型。

GPU的性价比困局

推理与训练对硬件的要求截然不同。训练芯片追求极致的通用算力、高带宽显存(HBM)和高速互联,以应对复杂的并行计算。而推理场景的核心诉求则是低延迟、高吞吐、高能效和更低的成本。

英伟达的GPU虽然功能强大,能够“训推一体”,但在大规模推理场景下,其许多为训练设计的昂贵配置显得多余,导致性价比不高。这好比用一辆昂贵的跑车去送快递,不仅成本高昂,也浪费了性能。因此,客户开始寻求更专用、更经济的替代方案。

Grok的解法

Grok公司正是为解决推理难题而生。它不追求在训练上超越英伟达,而是专注于如何将推理做到极致。其研发的LPU(语言处理单元)架构,是一种完全为推理工作负载优化的专用芯片。

这种设计使得LPU在处理AI推理任务时,能够实现更快的响应速度、更高的处理效率和更低的能耗。这种专业化路线,直击当前AI大规模商业化应用的痛点,因此成为了市场上的有力竞争者。

200亿的真相

英伟达此次的巨额投资,目标非常明确,不是为了收购一个空壳,而是为了获取两项核心资产。第一是Grok在推理芯片领域的关键技术和专利,这能帮助英伟达快速构建起在专用推理赛道上的竞争力。

第二,也是更重要的,是Grok的整个团队。这支由被誉为“谷歌TPU之父”的Jonathan Ross带领的队伍,拥有从零开始设计、验证并产品化顶级推理芯片的稀缺经验。这笔投资,是英伟达为弥补其在专用芯片领域的短板而采取的最高效手段。

英伟达的200亿美元,本质上是为过去看错赛道的一次昂贵“补课”。它明确宣告了训练与推理将走向分化的未来。当行业巨头都开始拥抱专用路线,真正决定胜负的,或许不再是单纯的算力竞赛,而是谁能将推理成本降至最低。当专用芯片成为主流,下一个技术奇点又会在哪里出现?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章