微软构建Azure SRE Agent的实践表明，提升AI Agent生产级可靠性的关键不在模型参数或提示词微调，而在于系统性地重构上下文使用方式。这一路径直击当前Agent开发中工具爆炸、多代理失协、上下文低效等共性痛点，为工程落地提供了可复用的方法论。
智能速览
从100+窄工具收缩为az和kubectl两个宽工具，响应灵活性提升，泛化能力显著增强
50多个专业子Agent合并为少数通用Agent，协调开销降低，跨领域推理能力反而上升
领域知识从固定Prompt剥离为按需加载的外部‘技能’文件，上下文预算利用率提高40%以上
指标异常分析改由LLM生成代码、交由解释器执行，准确率提升且Token消耗减少65%
工具链式调用将多次往返压缩为单次交互，上下文开销降低60–70%
海量工具输出不再注入上下文，转为沙箱文件引用+交互工具，避免‘上下文溢出’导致的推理失效
精华内容
当模型被当作胶水粘合僵化流程时，它注定脆弱；而当上下文成为可调度、可压缩、可外挂的资源时，Agent才真正获得应对未知任务的韧性。
窄工具陷阱
项目初期，团队为每个运维操作封装独立窄工具，并施加严格护栏。两周内工具数超100个，导致Agent响应延迟高、无法处理未预设路径。实测显示，相同故障排查任务在窄工具架构下平均需17步交互，成功率仅58%；而宽工具架构下平均6步完成，成功率升至92%。
这种模式本质是用确定性规则否定模型的推理先验，结果让LLM退化为状态机驱动器。工具数量与系统健壮性呈负相关——当工具数突破30个，每增加10个，任务失败率上升11个百分点。
根本矛盾在于：约束越细，覆盖越窄；覆盖越窄，意外越频。真正的可靠性不来自穷举边界，而来自赋予模型在开放界面上自主导航的能力。
宽工具跃迁
团队将az CLI与kubectl作为唯二头等工具接入，二者覆盖Azure全部基础设施管理能力，支持命令组合、管道、条件判断等完整Shell语义。测试表明，97%的SRE高频操作可通过这两个工具链完成。
相比窄工具，宽工具使单次调用信息密度提升5.3倍，上下文长度压缩62%。更重要的是，模型能基于自身对CLI文档的理解动态构造命令，例如自动推导出az monitor metrics list --namespace Microsoft.Web --metricnames CpuPercentage --aggregation Average。
这种设计承认并利用了模型对通用工具语法的先验掌握，而非强行将其降级为专用API的翻译器。模型不再需要记忆100个接口，只需理解2个工具的语义空间。
多代理失协
初期设计的50+专业子Agent（网络、K8s、诊断等）虽意图模拟专家协作，但实际运行中协调成本失控。日志分析显示，73%的失败任务源于Agent间handoff丢失上下文，其中41%因状态未同步导致循环协商。
典型场景如‘CPU飙升诊断’需依次调用监控Agent→K8s Agent→日志Agent→配置Agent，四跳后全局上下文衰减率达89%，模型开始忽略前置结论。
合并为3个通用Agent后，同一任务平均跳数降至1.8，端到端耗时缩短55%，且首次尝试成功率从34%升至86%。关键转变在于：知识外置化——诊断逻辑不再固化于Agent内部，而是以YAML格式的‘技能包’按需加载。
上下文即内存
上下文窗口被类比为Agent的RAM：填满后性能非线性下降。实测发现，当上下文达窗口上限80%时，指令遵循率下降37%，‘迷失在中间’现象出现频率翻倍。
有效对策包括三类压缩：历史对话摘要（保留决策链，丢弃冗余描述）、结构化数据转为表格摘要（原始JSON日志12KB→Markdown表280B）、长文本分块索引（仅载入匹配段落）。一项A/B测试显示，启用上下文压缩后，10轮以上长会话的准确率稳定在89%，未启用组跌至61%。
更关键的是‘分页’策略：将大体积工具输出（如kubectl get pods -o wide）写入沙箱文件，仅向模型传递文件ID与cat/grep/head等轻量操作工具，上下文占用从平均4200 Token降至87 Token。
LLM即编排者
面对原始指标流，旧方案直接塞入上下文让模型‘找异常’，平均消耗11400 Token，误报率43%。新方案改为模型生成Python脚本：调用pandas读取数据、计算滑动Z-score、标记离群点，再由解释器执行——总Token消耗降至1860，准确率升至96%。
工具链式调用进一步强化该范式：模型输出bash脚本串联az、kubectl、curl三步操作，平台执行后返回整合结果。这将3次往返（3×2200 Token）压缩为1次（2800 Token），且脚本保证步骤顺序与错误处理逻辑的确定性。
真实案例中，当Azure OpenAI服务部署失败时，Agent未依赖任何预置‘支持请求工具’，而是自主调用az account list→az provider show→az support tickets create，全程11分钟闭环，验证了编排范式的泛化价值。
上下文工程不是技巧集合，而是一种系统观：把上下文视为需主动管理的稀缺资源，把模型视为可信的决策中枢，把工具视为可编程的执行单元。未来Agent的竞争，将越来越体现在上下文调度的精细度上——谁能在有限Token内装下更多可操作知识、更少冗余噪声、更强推理线索，谁就握有通往真正自主智能的钥匙。当所有Agent都拥有相似的模型底座时，工程智慧正成为拉开差距的最后一道护城河。
