AI行业正从训练阶段迈向推理落地,这一转变预示着算力市场将迎来重塑。未来,推理需求将占据主导地位,为专注于此的芯片企业带来巨大机遇,同时也将彻底改变现有算力格局。这篇内容揭示了这一趋势背后的关键驱动力和市场预测。
智能速览
至2030年,AI推理预计占AI计算市场80%份额。
英伟达斥资200亿美元收购Groq,补全推理拼图。
国产曦望S3芯片将单位Token推理成本降低约90%。
春节红包大战有望加速AI应用的普及进程。
AGI时代将使推理需求变得没有天花板。
精华内容
随着AI应用走向大众,推理算力的需求正以前所未有的速度爆发。这不仅是技术路线的更迭,更是一场围绕算力成本与效率的产业革命。
推理时代来临
业内普遍判断,到2030年,AI推理将占据整个AI计算市场80%的份额。未来推理请求量与并发数将大幅增加,算力需求呈指数级攀升。AI智能体的落地,其算力消耗可达同参数大语言模型的10倍以上,这对现有算力系统构成了巨大冲击,预示着市场格局的根本性转变。
巨头的算力豪赌
面对这一趋势,AI算力龙头英伟达以200亿美元收购了AI推理芯片初创企业Groq。Groq专注于极致推理,其LPU架构据称推理性能是英伟达H100的10倍,而成本仅为其十分之一。这笔收购是英伟达迄今规模最大的一次,清晰地表明了其补全推理算力拼图、押注未来的战略决心。
国产芯片的机遇
在推理赛道,技术路线呈现百花齐放的态势,为国产AI芯片厂商带来了机遇。从商汤拆分独立的曦望,推出了聚焦大模型推理的GPGPU芯片启望S3。在主流大模型推理场景中,S3的单位Token推理成本较上一代降低约90%。曦望的目标是将百万Token的推理成本降至1分钱,以极致性价比抢占市场先机。
AGI的无限需求
目前,AI芯片占据了整个产业价值的70%至90%。展望未来,随着AGI时代的到来,机器人数量可能超过人类,需要7×24小时不间断推理。物理AI、多模态等应用将让推理需求变得没有天花板。届时,构建一个普惠的推理算力网络,将成为支撑整个社会的关键基础设施。
从巨头的战略布局到国产芯片的奋力追赶,AI推理已成为一场算力新战役。随着春节等节点的应用普及,推理需求将进一步释放,其市场空间远未触顶。当算力成本持续下降,一个万物皆可推理的时代是否会加速到来?