生产级 Agent 如何工程化实现自我校验、链路复盘、错误归因和动态修正？

60 秒回答模板

生产级 Agent 的自我校验不能停留在让模型回答前说“请检查一下”，而要工程化成一套可记录、可回放、可归因、可修正的闭环。首先要把 Agent 执行过程结构化，记录用户目标、规划步骤、工具选择、工具入参、工具返回、模型中间决策、状态变化、最终输出和用户反馈，形成完整 trace。 自我校验可以分为执行前、执行中和执行后三类：执行前检查任务是否清楚、权限是否足够、工具是否可用、参数是否完整；执行中检查工具结果是否异常、计划是否偏离、是否进入循环、成本是否超预算；执行后检查输出是否满足目标、是否引用了真实证据、是否存在未完成步骤或风险动作。链路复盘要能把一次失败拆到具体环节，例如意图理解错、计划拆解错、工具选错、参数生成错、工具服务失败、检索证据不足、状态污染、最终表达误导或前端交互信息缺失。 错误归因不能只靠模型自评，要结合规则校验、工具返回、日志、评测器、人工标注和用户反馈。动态修正也要分级：低风险可以自动补参、重试、改写查询或重新规划；中风险需要提示用户确认或转人工；高风险应停止执行、保留现场并进入人工审核。前端要提供可理解的状态、确认、纠错和反馈入口，后端要有 trace、版本、实验分组、策略命中和回放能力。长期看，归因结果要回流到 Prompt、工具 schema、知识库、路由策略、测试集和产品流程中，让 Agent 从单次纠错变成持续改进。