SkillGrad: 像优化参数一样优化Skill
大模型智能体(Agent)通常以文件形式存储技能,涵盖工作流、工具使用方式及边界情况等程序性知识。然而,无论是人工编写、模型生成还是第三方获取的技能,在实际应用中常面临不完整、不稳定或与目标任务不匹配的问题。针对这一挑战,SkillGrad框架提出了一种新思路:不再将技能视为一次性提示词,而是将其视为可被持续优化的结构化对象。
01核心原理:基于文本梯度的迭代优化
SkillGrad借鉴了梯度下降的视角,构建了一套针对外部技能文件的优化机制。其核心逻辑是将Agent执行任务后的轨迹和结果作为Loss Evidence(损失证据),通过对比分析成功与失败的执行案例进行诊断,从中提取出可复用的更新信号,定义为Textual Gradients(文本梯度)。
- Loss Evidence(损失证据)
收集失败执行的轨迹以及对比成功的执行案例,作为诊断的基础数据。 - Contrastive Diagnosis(对比诊断)
分析成功与失败案例的差异,识别技能文件中需要修正的具体部分。 - Momentum Memory(动量记忆)
利用动量机制累积跨迭代中反复出现的模式,避免优化过程中的震荡,加速收敛。 - Layer-aware Patch(分层感知补丁)
根据诊断结果,对技能文件进行分层感知的更新,生成下一轮迭代使用的技能版本。
02实验验证与性能表现
研究团队在SpreadsheetBench Verified和WikiTableQuestions数据集上进行了广泛的实验,以验证SkillGrad框架的有效性。实验不仅测试了框架的基础性能,还包含了对Momentum(动量机制)和Contrastive Diagnosis(对比诊断)等核心模块的消融实验。
| 实验数据集 | 主要验证内容 | 核心模块分析 |
|---|---|---|
| SpreadsheetBench Verified | 验证技能在复杂表格任务中的优化效果 | Momentum机制对累积模式的作用 |
| WikiTableQuestions | 测试技能在问答任务中的稳定性与准确性 | Contrastive Diagnosis对失败案例的诊断能力 |
SkillGrad主要实验设置
03总结:非权重更新的优化路径
SkillGrad框架探索了一条不同于传统模型权重更新的路径。它不改变模型内部的参数,而是专注于优化Agent可读取和复用的外部技能文件。通过系统性地分析任务执行反馈,该框架证明了Agent技能可以像参数一样被训练和改进。目前该项目已开源,为智能体技能的持续进化提供了新的方法论参考。
当前文章无评论,是时候发表评论了