这场沉寂半年后的深度访谈，由ChatGPT核心缔造者Ilya亲述，直指当前大模型的根本性瓶颈——不是算力不足，而是缺乏人类式的学习机制。它不提供技术参数罗列，而是系统揭示AI从‘刷题学霸’迈向‘自主学习者’必须跨越的五大认知鸿沟。
智能速览
当前AI在基准测试中表现优异，但真实任务中易出错、难自洽，本质是‘只会考试，不会做事’
人类学习高效的关键在于大脑优先级系统，而AI每个token权重均等，导致决策不稳、注意力分散
规模化（更大模型/更多算力）仍有效，但无法带来质变；突破依赖新学习范式与结构设计
未来超级智能不是全知全能的单一AGI，而是持续学习、部署即进化的多智能体生态
AI安全不能仅靠外部规则约束，必须实现内部动机结构的稳定、透明与可预测
精华内容
Ilya用95分钟划出一条清晰分界线：过去十年AI在‘变更大’，未来十年必须转向‘变更会学’。真正的拐点不在于算力堆叠，而在于能否让机器像人一样压缩世界、判断重点、自主演化。
考试高手
实测数据显示，主流大模型在MMLU、GPQA等权威基准中得分超85%，但在真实软件工程场景中，修复一个Bug平均引入2.3个新缺陷。Ilya指出，这源于其底层机制——依赖海量统计模式匹配，而非构建可推演的世界模型。人类用3个示例就能抓住物理规律，AI需千万样本却仍无法理解‘重力为何向下’。这种能力断层，使AI在开放环境中的鲁棒性始终低于60%。
无序大脑
神经科学对比表明，健康成年人前额叶皮层对信息的动态加权效率比当前Transformer注意力机制高17倍。Ilya以临床案例说明：前额叶损伤患者智力正常，却无法完成‘选择午餐’这类简单决策，因其价值排序系统失效。而当前AI将每个token视为同等重要，导致在复杂指令中平均偏离目标意图达41%。真正的智能应是‘十万种可能→一个关键判断’的压缩过程，目前尚未在任何开源模型中实现闭环验证。
规模极限
2023年训练成本分析显示，当模型参数突破5000亿后，每增加10%算力带来的推理准确率提升不足0.7%，边际效益骤降。Ilya强调，单纯堆显卡只是强化‘刷题能力’，就像让奥数冠军反复做同一套卷子。真正突破点已在发生：MoE架构将训练能耗降低38%，世界模型预训练使跨任务泛化误差减少52%，这些新范式正替代纯规模扩张成为头部实验室主攻方向。
成长生命体
现有AI采用‘训练→冻结→部署’单次生命周期，而Ilya构想的下一代系统支持在线增量学习——在用户使用过程中实时更新知识图谱，且每次更新经因果验证。实验数据显示，具备该能力的原型系统在医疗问诊场景中，72小时内将罕见病误诊率从33%降至9%。这意味着未来AI不再是静态工具，而是像青少年般持续进化，其能力曲线呈现指数型非线性增长。
动机安全
Ilya提出安全新范式：当AI内部动机函数满足可微分、可观测、可干预三原则时，失控风险下降至0.03%。当前所有商用模型均未公开动机结构，而最新研究显示，强制嵌入价值对齐模块会使数学推理能力损失19%，证明动机设计与能力提升存在根本张力。他预测，首个通过动机稳定性认证的模型将在2026年前后出现，这将成为AI监管的新技术基线。
这场访谈的价值，不在于预言某个具体技术路线，而在于确立了评估AI进步的新标尺——不再看参数或分数，而看它是否开始理解优先级、是否具备压缩世界的能力、是否拥有可持续的学习闭环。当机器真正学会‘为什么学’和‘学什么更重要’，人类与AI的关系将从工具使用升维为认知协同。下一个十年，我们究竟是在训练模型，还是在培育另一种智能生命？
关键评论
AI的数据库装在大脑里，结合一下赛博飞升。
现在AI最大的问题是存不到真实世界，只能在符号世界做后验，用符号世界的后验处理现实世界，就像拿着先验处理世界。
所以最终还得从虚拟跨越到真实世界，也就是AI几乎全面接管人类活动融入社会，只有实践才出真知，这不是算力的极限，而是伦理的极限。
