构建复杂 LLM Agent 时最主要的挑战是什么，如何处理可靠性、规划、工具调用和可观测性？

60 秒回答模板

构建复杂 LLM Agent 时，最主要的挑战是可靠性和可控性。Agent 不只是回答文本，它会拆任务、调用工具、读取外部数据甚至改变业务状态；而 LLM 输出天然有不确定性，所以同一个任务可能出现不同计划、错误参数、重复调用、陷入循环或忽略工具结果。复杂度越高，链路越长，问题越难定位：一次失败可能来自意图识别、上下文污染、planner 选错步骤、工具描述歧义、参数 schema 不严、工具服务超时、权限不足或最终总结幻觉。 治理要分层。规划层要把任务拆成有限状态或工作流，明确开始、步骤、停止条件、重试预算和失败出口；不要让模型无限自由规划。工具层要有清晰的工具描述、严格 schema、权限校验、幂等键、超时、熔断、重试和降级；高风险动作要 dry-run、用户确认或人工审批。上下文层要做 token budget、短期记忆、长期记忆、RAG 证据、工具结果和用户输入的优先级管理，避免过期记忆或无关证据污染决策。 可观测性是复杂 Agent 能上线的前提。每次运行要记录 trace：用户目标、上下文摘要、计划、候选工具、最终工具、参数、工具返回、重试、成本、耗时和最终答案。评测不能只看最终回答，要看任务成功率、工具选择准确率、参数合法率、循环率、人工接管率、P95 延迟、单任务成本和安全拦截。最后用历史 badcase 建回归集，持续改 prompt、planner、工具描述、schema 和降级策略。