AI推理:真正的算力黑洞:黄仁勋解读智能扩展定律
英伟达首席执行官黄仁勋近期深入阐述了关于人工智能算力与智能扩展的核心观点。针对行业内关于“推理简单、预训练困难”的传统认知,黄仁勋提出了截然不同的见解,认为推理本质上是思考,其计算复杂度远超单纯的阅读与记忆。基于这一认知,他构建了包含预训练、后训练、测试时扩展以及代理扩展在内的四大算力定律,描绘了智能技术通过计算实现持续迭代的未来图景。
01推理即思考:打破认知误区
业界曾普遍存在一种观点,认为预训练构建巨型系统是困难的,而推理环节相对简单,因此未来的推理芯片应当是微型且廉价的,易于实现商品化。黄仁勋反驳了这一逻辑,指出推理实际上是“思考”的过程,其难度远高于代表“阅读”的预训练。
推理与预训练的认知博弈
推理简单论
预训练才是真正的难点,涉及巨型系统的构建。
推理过程简单,芯片可微型化、低成本。
推理市场将因简单而易于商品化,人人皆可造芯。


推理即思考论
推理是思考过程,远比代表阅读的预训练更困难。
思考涉及理论规划、搜索及尝试不同方案,计算压力极大。
测试时扩展(Test-time scaling)本质是计算密集型过程。
02智能扩展的四大定律
在确立了“推理即思考”的底层逻辑后,黄仁勋进一步提出了智能发展的四大扩展定律。这四条定律形成了一个闭环的增强循环,推动智能体不断进化。
智能扩展四大定律
Pre-training scaling
预训练扩展
- 基础阶段:进行记忆与泛化。
- 主要任务:寻找模式、关系及数据规律。
- 核心价值:构建具备基础认知能力的大型语言模型。
Post-training scaling
后训练扩展
- 强化阶段:对预训练模型进行微调与提炼。
- 数据处理:将高质量数据集整合进模型。
- 核心目标:提升模型在特定任务上的表现与指令遵循能力。
Test-time scaling
测试时扩展(“长思考”)
- 推理阶段:模型进行思考、规划与搜索。
- 过程特征:利用工具调用数据库,拆解未探索经验。
- 技术实质:通过增加计算量换取更优的输出结果。
Agentic scaling
代理扩展(“AI对话AI”)
- 系统进化:创建大量子代理,形成庞大的AI团队。
- 规模效应:类似企业通过雇佣更多员工而非单个体来扩展能力。
- 数据回流:生成新经验与数据,反向滋养预训练,形成循环。
这四条定律并非孤立存在,而是形成了一个周而复始的循环。自主代理系统在运行中创造新的数据和经验,这些优质数据被记录并总结后,追溯回预训练阶段,经过后训练和测试时扩展的再次增强,最终推动智能水平持续突破。
03行业影响与技术挑战
- 供应链与芯片设计
随着推理计算的复杂度提升,简单的微型芯片无法满足需求,高性能、复杂设计的GPU仍是市场刚需。 - 内存系统
智能扩展定律要求更高的数据吞吐与存储能力,对内存带宽和容量提出了严峻挑战。 - 能源消耗
计算密集型的推理过程和大规模代理系统的运行,将导致数据中心的能耗需求显著增长。 - 数据中心架构
未来可能出现太空中的AI数据中心,以解决散热和能源获取问题,适应极限协同设计与机架级工程的需求。
04未来展望:AGI与意识的边界
在通用人工智能(AGI)的时间表上,黄仁勋持乐观态度,认为随着四大扩展定律的持续作用,智能将通过算力不断放大。关于编程的未来,他指出虽然编程语言依然重要,但人类将更多通过自然语言与计算机交互,编程门槛大幅降低。而对于“意识”这一终极命题,目前的AI系统虽然能模拟思考过程,但在主观体验层面仍与人类存在本质区别。
当前文章无评论,是时候发表评论了