真实面经题目 · 原创解析
AI 产品需求什么时候应该做 Agent,什么时候应该做确定性工作流?
这题考 AI 产品需求中 Agent 和确定性工作流的边界判断,回答要用不确定性、自治程度、失败成本、可观测性和混合架构来决策。
真实面经题目 · 原创解析
这题考 AI 产品需求中 Agent 和确定性工作流的边界判断,回答要用不确定性、自治程度、失败成本、可观测性和混合架构来决策。
我不会把所有 AI 需求都做成 Agent。判断标准是:如果任务步骤明确、规则稳定、失败成本高、合规要求强、用户需要确定结果,那更适合确定性工作流;如果任务目标明确但路径不确定,需要动态收集信息、选择工具、处理开放输入、多轮决策和自我修正,才适合 Agent。还要看失败是否可逆、过程是否可观测、是否能设置权限和人类确认。很多生产产品更适合混合方案:用确定性工作流承载关键路径、权限、状态流转和审计,用 Agent 处理信息理解、候选生成、异常分支和辅助决策。这样既利用 LLM 的灵活性,又保留业务链路的稳定性。
当流程步骤固定、输入输出明确、业务规则稳定、合规或审计要求高时,确定性工作流更合适。比如表单校验、审批流、固定数据同步、账务类操作或强状态流转任务,核心价值是可靠、可解释、可回放和低波动。
Agent 更适合目标清楚但路径开放的任务,例如需要读多份资料、动态选择工具、多轮澄清、生成候选方案、处理异常分支或根据中间结果继续规划。这里 LLM 的价值是理解、规划和适应,而不是替代所有业务规则。
如果错误会造成资金损失、权限泄露、法律风险或不可逆操作,应该优先工作流和人工确认。Agent 可以给建议或草稿,但不应直接执行高风险动作。低风险、可撤销、可重试的任务,可以给 Agent 更高自治度。
Agent 不是黑盒自动跑就可以上线。产品要能看到它为什么选择某工具、用了哪些输入、执行到哪一步、哪里失败、能否暂停和回滚。没有日志、权限、状态机和审计,Agent 的线上稳定性和用户信任都会很差。
很多需求可以设计为工作流骨架加 Agent 子步骤。工作流规定状态、权限、关键节点和最终提交;Agent 负责理解材料、生成候选、补全信息、解释异常或推荐下一步。这样把不确定性限制在局部,不让 Agent 控制全部关键路径。
决策后还要验证。Agent 方案看任务成功率、人工接管率、工具错误、不可控行为、用户信任和成本;工作流方案看完成效率、异常覆盖、规则维护成本和用户绕开率。灰度阶段可以逐步提高 Agent 自治权限,而不是一次放开。
当任务步骤可预测、规则清晰、失败成本高或合规要求强时,应优先做确定性工作流。比如审批、支付、权限变更和标准化数据处理,确定性路径更可控、可审计、可回滚。
当任务目标明确但路径不确定,需要理解上下文、规划步骤、选择工具或处理开放输入时,Agent 更有价值。比如复杂创作、研究分析、跨工具信息整合和异常问题定位。
不矛盾。很多生产系统应采用工作流骨架加 Agent 子步骤:关键节点、权限和回滚保持确定性,在需要理解、生成或规划的局部使用 Agent,这样兼顾灵活性和可靠性。
可以从失败成本、可逆性、权限范围、用户确认、日志可追踪和降级能力评估。越高风险的任务,越要限制 Agent 自主决策,增加确认、沙箱、审批和回滚机制。
可以看任务完成率、人工接管率、步骤成功率、越权/误操作率、重试次数、用户确认率、平均耗时和成本。还要记录 Agent 的计划、工具调用和中间证据,方便审计。
可以先用模板化流程或人工运营验证用户需求,再把不确定环节交给 Agent。初期限制工具、权限和任务范围,用灰度和日志确认稳定后再扩大自主程度。