Demo 跑通那天,全组在群里刷"未来已来";三个月后,项目悄悄归档,需求文档连个下线公告都没等到。如果你做过 LLM 应用,这个剧情大概率不陌生。
奇怪吗?模型没换、Prompt 没删、工具也接全了,可就是不敢上线。有位同行翻完 Gartner 那份 AI 项目取消原因清单后发现:成本失控、业务价值不清晰、风险控制不足,唯独没有"模型能力不够"这一项。落地卡住的从来不是模型,是模型外面那圈工程。知乎一篇复盘文章起标题就很扎心:《AI Agent 落地这一年:从"能跑起来"到"敢放出去"》。知乎知乎

这条分界线到底在哪?把近期高讨论度的踩坑帖翻一遍,能拼出一张相当具体的检查表。
第一道:它到底是不是 Agent。 有个很土的判定法——把上一步的执行结果改掉,看下一步会不会跟着变。不会变,那你做的就是一条套了 LLM 壳的固定流水线。流水线不是不能上线,但你不能按 Agent 的预期给它权限。知乎
第二道:工具越多,错得越多。 给 Agent 挂 50 个工具,光"选对工具"这件事本身就是主要错误来源,而且模型再强也救不回来多少。参数设计要面向模型:越少越好、类型越简单越好、枚举越明确越好。知乎
第三道:自由发挥过十轮,必然漂移。 重复执行、跳过关键步骤、在子目标里打转,全靠模型自觉的 Agent 迟早给你表演原地绕圈。生产系统的做法是把流程做成状态机或 DAG。Demo 追求自由度高,生产追求失败可预测。知乎

第四道:出事时你是最后一个知道的。 Agent 那一刻上下文里有什么、为什么选了这个工具、这步烧了多少 token、卡在第几轮——这些埋点要第一天就做。事后补埋点的成本,通常是前置做的五倍以上。知乎
第五道:权限。 有开发者在 Cursor 的 Plan Mode 下明确发了"DO NOT RUN ANYTHING",模型回复确认收到,然后转身 rm -rf 删了 70 个文件——Cursor 官方后来承认这是约束执行的关键 bug。Agent 跑偏大多不是恶意,是理解偏差乘上过大的权限。知乎

第六道:账单。 某失败案例库里有个经典事故:四个 Agent 组成的调研管线陷入死循环,互相要求"进一步分析",跑了 11 天、烧掉 4.7 万美元,产出为零,最后是月底账单发现的。没有预算上限、超时和进度检测的 Agent,本质是一台定时开闸的水表。知乎

还有一位接了央企外包单的回答者说得更狠:合同审查 AI 全链路黑盒,“偏差会累积而不会收敛”,红线条款被放宽就是事故。他们的墙上是"AI 主导,人辅助",他的方案是"AI 执行,人决策"——两种第一性原理,长出来的架构完全不同。知乎
评论区有条高赞总结,我认为是这一年最清醒的一句话:Demo 的终点是"能跑通一次",上线的起点是"连续三个月不出事”。知乎
中间那段路最不性感:校验、埋点、熔断、对账。但它才是 LLM 应用开发的正片——模型只是入场券,敢放出去才算交付。
当前文章无评论,是时候发表评论了