什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

Andrej Karpathy:Vibe Coding提高下限,Agent工程保证质量

AI 专家 Andrej Karpathy 在红杉资本 AI Ascent 峰会上提出,软件开发正在经历从“氛围编程”向“智能体工程”的范式转移。这种转变不仅是工具的升级,更是对软件开发定义的重塑,要求工程 discipline 从开发、部署到评估的各个环节进行重新审视。软件 1.0 依赖于明确的指令编写(如 if-else),软件 2.0 通过数据集和神经网络训练寻找模式,而软件 3.0 则将编程转变为“提示”,大型语言模型成为可编程的通用计算机,上下文窗口成为操作杠杆。
01软件开发范式的演进
软件 1.0软件 2.0软件 3.0
明确指令编写数据集与神经网络自然语言提示
人类逻辑直接转译通过数据寻找模式模型作为可编程计算机
确定而僵硬针对特定任务优化端到端的理解与生成

软件演进三个阶段的特征对比

在软件 3.0 范式下,传统的复杂应用开发逻辑面临被颠覆的风险。以 open-interpreter 的安装为例,传统方式需要编写复杂的 Shell 脚本以适配不同环境和边界情况,而在新范式中,仅需将自然语言指令发送给 Agent,后者即可自主检查环境、执行指令并调试。另一个案例 MenuGen 展示了更剧烈的变革:传统应用需要构建“OCR识别-图像生成-重新渲染”的完整链路,而软件 3.0 仅需将菜单照片发给模型并提示“用图片覆盖菜品”,即可一步完成端到端生成。这表明,许多基于旧范式构建的复杂工作流,在模型能力提升下可能变得不再必要。
02从氛围编程到智能体工程

开发模式核心对比

氛围编程
  • 核心目标是提高所有人的下限

  • 凭借感觉和氛围描述想法

  • 不再需要精确记忆 API

  • 适合快速原型与非严肃场景

智能体工程
  • 核心目标是维持和超越原有质量标准

  • 研究如何驾驭和协调能力强大的 Agent

  • 涉及设计健壮的工作流与监督系统

  • 关注分层协作、自动化测试与接口设计

随着开发模式向 Agent 工程演进,工程师的价值也面临重构。虽然 Agent 可以接管具体的代码实现细节(如 PyTorch 与 NumPy 的 API 差异),但在架构设计和逻辑判断上仍需人类把关。例如,Agent 可能会设计出通过邮箱匹配用户积分的逻辑,但这在工程上是脆弱且错误的,正确的做法是使用持久化的唯一 User ID。这印证了 Andrej 的观点:你可以外包思考,但不能外包理解。工程师必须对系统原理有深刻认知,才能有效指导和监督 Agent 的行为。
03智能的参差与可验证性
LLM 的能力表现呈现出显著的“参差”特征,这主要取决于任务的可验证性以及实验室在训练时的投入重点。在代码和数学等结果极易验证的领域,模型能力突飞猛进;而在涉及物理世界常识的问题上(如“去洗车店是否该开车”),模型可能表现拙劣。这种差异源于强化学习环境中的奖励机制:只有被明确定义和验证的行为,模型才能获得优化。因此,智能体工程师需要探测模型在不同场景下的能力边界,必要时通过微调来构建特定的能力电路。

模型能力表现差异

强能力领域

结果易于验证,反馈机制清晰

  • 代码编写与重构
  • 数学问题求解
  • 国际象棋等规则博弈
弱能力领域

缺乏明确的验证标准与训练数据

  • 物理世界常识推断
  • 模糊语境下的逻辑判断
  • 未被 RLHF 充分优化的长尾场景

评论

评论区空态插画

当前文章无评论,是时候发表评论了