Andrej Karpathy:Vibe Coding提高下限,Agent工程保证质量
AI 专家 Andrej Karpathy 在红杉资本 AI Ascent 峰会上提出,软件开发正在经历从“氛围编程”向“智能体工程”的范式转移。这种转变不仅是工具的升级,更是对软件开发定义的重塑,要求工程 discipline 从开发、部署到评估的各个环节进行重新审视。软件 1.0 依赖于明确的指令编写(如 if-else),软件 2.0 通过数据集和神经网络训练寻找模式,而软件 3.0 则将编程转变为“提示”,大型语言模型成为可编程的通用计算机,上下文窗口成为操作杠杆。
01软件开发范式的演进
| 软件 1.0 | 软件 2.0 | 软件 3.0 |
|---|---|---|
| 明确指令编写 | 数据集与神经网络 | 自然语言提示 |
| 人类逻辑直接转译 | 通过数据寻找模式 | 模型作为可编程计算机 |
| 确定而僵硬 | 针对特定任务优化 | 端到端的理解与生成 |
软件演进三个阶段的特征对比
在软件 3.0 范式下,传统的复杂应用开发逻辑面临被颠覆的风险。以 open-interpreter 的安装为例,传统方式需要编写复杂的 Shell 脚本以适配不同环境和边界情况,而在新范式中,仅需将自然语言指令发送给 Agent,后者即可自主检查环境、执行指令并调试。另一个案例 MenuGen 展示了更剧烈的变革:传统应用需要构建“OCR识别-图像生成-重新渲染”的完整链路,而软件 3.0 仅需将菜单照片发给模型并提示“用图片覆盖菜品”,即可一步完成端到端生成。这表明,许多基于旧范式构建的复杂工作流,在模型能力提升下可能变得不再必要。
02从氛围编程到智能体工程
开发模式核心对比
氛围编程
核心目标是提高所有人的下限
凭借感觉和氛围描述想法
不再需要精确记忆 API
适合快速原型与非严肃场景


智能体工程
核心目标是维持和超越原有质量标准
研究如何驾驭和协调能力强大的 Agent
涉及设计健壮的工作流与监督系统
关注分层协作、自动化测试与接口设计
随着开发模式向 Agent 工程演进,工程师的价值也面临重构。虽然 Agent 可以接管具体的代码实现细节(如 PyTorch 与 NumPy 的 API 差异),但在架构设计和逻辑判断上仍需人类把关。例如,Agent 可能会设计出通过邮箱匹配用户积分的逻辑,但这在工程上是脆弱且错误的,正确的做法是使用持久化的唯一 User ID。这印证了 Andrej 的观点:你可以外包思考,但不能外包理解。工程师必须对系统原理有深刻认知,才能有效指导和监督 Agent 的行为。
03智能的参差与可验证性
LLM 的能力表现呈现出显著的“参差”特征,这主要取决于任务的可验证性以及实验室在训练时的投入重点。在代码和数学等结果极易验证的领域,模型能力突飞猛进;而在涉及物理世界常识的问题上(如“去洗车店是否该开车”),模型可能表现拙劣。这种差异源于强化学习环境中的奖励机制:只有被明确定义和验证的行为,模型才能获得优化。因此,智能体工程师需要探测模型在不同场景下的能力边界,必要时通过微调来构建特定的能力电路。
模型能力表现差异
强能力领域
结果易于验证,反馈机制清晰
- 代码编写与重构
- 数学问题求解
- 国际象棋等规则博弈
弱能力领域
缺乏明确的验证标准与训练数据
- 物理世界常识推断
- 模糊语境下的逻辑判断
- 未被 RLHF 充分优化的长尾场景
当前文章无评论,是时候发表评论了