Agent 推理链路中多个工具串行调用导致响应变慢时，如何优化延迟并保证结果可靠？

60 秒回答模板

多个工具串行调用慢，不能只说并发。要先拆每个工具是否有数据依赖、是否可缓存、是否可批量、是否可提前执行，再决定并行、合并、跳过、降级或改变交互方式。 拆阶段耗时：先记录规划、检索、每个工具、模型生成、结果聚合和网络排队耗时，找出关键路径。没有 trace 就无法判断应该优化工具、模型还是调度，也无法发现慢其实来自排队、重试或外部工具抖动。 依赖图并行化：无依赖工具可以并行，有依赖工具按 DAG 调度。比如用户画像、库存、价格可并发查，必须等订单信息后才能查售后规则的步骤则串行，写操作还要避免并发副作用。 减少不必要调用：通过意图识别、置信阈值、缓存、预取、批量接口和参数复用减少工具次数。对低价值信息不要每轮都重新调用，对稳定信息可以在会话级缓存并记录版本。 交互上缓解等待：长链路可以先返回已接收、展示阶段进度、流式输出中间摘要，或把后台任务异步化。用户可感知延迟比后端总耗时更影响体验，因此前端状态和取消能力也要设计。 可靠性不能牺牲：并行和缓存可能带来过期、冲突和部分失败。需要结果版本、超时、重试、熔断、校验和降级策略，确保快的同时不乱用旧数据。 最后要把方案落到可验证的指标、失败兜底和迭代闭环上。面试里不要只讲概念名词，要说明边界、取舍、数据来源、线上观测和出问题后的回滚或人工介入。