1400亿!黄仁勋押注这一领域

源自公众号:创投日报

03-01 18:52

AI行业正从训练阶段迈向推理落地,这一转变预示着算力市场将迎来重塑。未来,推理需求将占据主导地位,为专注于此的芯片企业带来巨大机遇,同时也将彻底改变现有算力格局。这篇内容揭示了这一趋势背后的关键驱动力和市场预测。

1400亿!黄仁勋押注这一领域智能速览

  • 至2030年,AI推理预计占AI计算市场80%份额。

  • 英伟达斥资200亿美元收购Groq,补全推理拼图。

  • 国产曦望S3芯片将单位Token推理成本降低约90%。

  • 春节红包大战有望加速AI应用的普及进程。

  • AGI时代将使推理需求变得没有天花板。

1400亿!黄仁勋押注这一领域精华内容

随着AI应用走向大众,推理算力的需求正以前所未有的速度爆发。这不仅是技术路线的更迭,更是一场围绕算力成本与效率的产业革命。

推理时代来临

业内普遍判断,到2030年,AI推理将占据整个AI计算市场80%的份额。未来推理请求量与并发数将大幅增加,算力需求呈指数级攀升。AI智能体的落地,其算力消耗可达同参数大语言模型的10倍以上,这对现有算力系统构成了巨大冲击,预示着市场格局的根本性转变。

巨头的算力豪赌

面对这一趋势,AI算力龙头英伟达以200亿美元收购了AI推理芯片初创企业Groq。Groq专注于极致推理,其LPU架构据称推理性能是英伟达H100的10倍,而成本仅为其十分之一。这笔收购是英伟达迄今规模最大的一次,清晰地表明了其补全推理算力拼图、押注未来的战略决心。

国产芯片的机遇

在推理赛道,技术路线呈现百花齐放的态势,为国产AI芯片厂商带来了机遇。从商汤拆分独立的曦望,推出了聚焦大模型推理的GPGPU芯片启望S3。在主流大模型推理场景中,S3的单位Token推理成本较上一代降低约90%。曦望的目标是将百万Token的推理成本降至1分钱,以极致性价比抢占市场先机。

AGI的无限需求

目前,AI芯片占据了整个产业价值的70%至90%。展望未来,随着AGI时代的到来,机器人数量可能超过人类,需要7×24小时不间断推理。物理AI、多模态等应用将让推理需求变得没有天花板。届时,构建一个普惠的推理算力网络,将成为支撑整个社会的关键基础设施。

从巨头的战略布局到国产芯片的奋力追赶,AI推理已成为一场算力新战役。随着春节等节点的应用普及,推理需求将进一步释放,其市场空间远未触顶。当算力成本持续下降,一个万物皆可推理的时代是否会加速到来?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章