标签题目
稳定性相关面试题第 2 页
如何设计 AI 模型调用缓存,避免相同输入重复推理,同时控制一致性、过期和成本?
这道题考 AI 服务缓存设计。重点是缓存边界、key 设计、模型版本、prompt 参数、语义相似缓存、过期策略、隐私隔离和命中率评估。
生产中的 AI 服务如何保障全天稳定运行,覆盖资源、限流、降级、监控和模型依赖治理?
这道题考 AI 服务稳定性治理。好答案要覆盖容量、GPU/模型资源、流量控制、依赖失败、降级策略、监控告警、灰度发布和故障演练。
线上模型效果变差时,如何从数据漂移、特征、模型版本、评估集和服务链路排查?
这道题考模型线上效果诊断。关键是先确认指标和影响范围,再按数据、特征、模型、评估、服务链路和实验版本逐层排查,避免一上来只怪模型。
Agent 工具调用限制中间件应如何设计,才能约束候选工具范围、调用预算、权限校验和循环停止条件?
这题考 Agent 工具调用限制中间件。重点是 runtime/executor 如何通过 allowlist、预算、权限、参数校验、循环检测和停止条件约束工具调用,而不是只在 prompt 里提醒模型少调用。
Agent Skill 如何用渐进式披露按需加载能力说明、执行步骤和工具细节?
这题考察 Agent Skill 的核心机制,以及如何通过渐进式披露降低上下文负担。Skill 不是简单工具函数,而是一组可被 Agent 发现、选择和执行的能力包,通常包含能力说明、适用条件、输入输出、执行步骤、工具依赖和失败处理。渐进式披露的关键是先暴露轻量索引和选择信号,只有命中时再加载详细说明、示例和执行细节。
多工具 Agent 如何设计工具选择与调用调度链路,并在超时、参数错误或工具失败时做 fallback?
这题考察多工具 Agent 的工程调度能力。好的回答不能停在“让模型选择工具”,而要说明工具注册、候选召回、参数生成、权限校验、执行编排、状态记录、错误分类和 fallback 策略。面试官重点看你是否能把不稳定的 LLM 工具调用变成可观测、可恢复、可降级的业务链路。
Agent 评估体系应该覆盖哪些维度,如何分别衡量规划能力、任务成功率和幻觉率?
这题考察 Agent 评估体系设计。好的回答要把评估拆成任务成功、规划质量、工具调用质量、事实一致性、幻觉率、安全合规、成本延迟和用户体验等维度。规划能力和幻觉率不能都靠主观打分,应该结合离线任务集、步骤级 trace、工具结果、证据对齐、人工标注和线上指标。
可中断的 Agent 系统如何设计,怎样保存执行状态、恢复任务并处理用户打断?
这题从后端视角考察可中断 Agent 的状态机、持久化和恢复设计。好的回答要说明 Agent 执行不是一次同步请求,而是可暂停、可恢复、可取消、可重试的长任务。核心包括任务状态模型、步骤 checkpoint、幂等工具调用、用户打断语义、恢复策略、并发控制和可观测性。
AI 服务中的多模型降级与熔断机制如何设计,怎样定义异常、状态流转和自动恢复条件?
这题考察 AI 服务后端的稳定性设计。多模型降级和熔断不是简单把模型 A 挂了切到模型 B,而要定义异常、统计窗口、状态机、路由策略、自动恢复和质量兜底。好的回答要覆盖可用性、质量、成本、延迟、限流、观测和安全边界。
RAG 生成阶段如何通过 Prompt 边界约束,在没有检索到有效证据时避免模型编造答案?
这题考察 RAG 生成阶段的边界控制能力。好的回答要说明 Prompt 如何把模型限制在检索证据内回答,如何定义无证据、低置信和证据冲突时的行为,以及如何配合检索评分、引用、结构化输出和评估来降低幻觉。重点不是写一句“不要编造”,而是建立可执行的证据约束。
Agent 工具服务为什么要独立部署并注册到 Nacos,而不是直接用 MCP 暴露工具?
这题考 Agent 工具服务的工程化部署边界:Nacos 解决服务发现和治理,MCP 解决模型侧工具协议,二者不是同一层能力,不能简单互相替代。回答时要强调在已有微服务治理体系下,Nacos 更适合管理真实工具服务的实例、健康、配置和流量,MCP 更适合统一工具契约、schema 和 Agent 侧调用方式。
RAG 或大模型知识库应用中,知识不断追加导致 Prompt 越来越长时,会带来哪些上下文、成本和质量问题,如何治理?
这题考 RAG 或大模型知识库应用的上下文治理能力。题源 evidence 指向新加入知识库造成 prompt 越来越长,所以回答不能停留在换长上下文模型,而要说明 prompt 变长会带来窗口挤占、成本上升、延迟变高、噪声和冲突增加、回答质量下降,并给出检索、压缩、版本、权限、评测和监控的治理方案。
RAG 生成阶段如何把 top3/top10 文本块和文档信息组织进 Prompt,控制模型基于证据输出?
这题考 RAG 生成阶段的证据组织和约束生成能力,重点是把 top3/top10 chunk、文档元数据、冲突处理和引用规则放进 Prompt,而不是简单拼接检索结果。回答要聚焦 evidence packing 和 grounded generation,不要扩成泛泛的召回优化。
AI 返回 ECharts 图表配置时如果出错,前端应如何做校验、降级、重试、可观测性和用户提示?
这题考前端工程师能否把 AI 生成 ECharts 配置当成不可信输入处理,并设计校验、降级、重试、观测和测试闭环,保证图表功能稳定可用。
对接多家国内大模型官方 API 时,如何设计统一调用网关来屏蔽接口差异?
这题考察的是多大模型供应商接入时的工程抽象能力,不是简单写几个 if else 适配接口。好的统一调用网关要把业务层看到的协议收敛成稳定的内部模型契约,同时把供应商差异隔离在 adapter 层:消息格式、模型名、参数范围、流式协议、错误码、限流、鉴权、计费、上下文长度、工具调用、JSON 输出能力都不能泄漏给上层。架构上通常分为统一 API、路由与策略、provider adapter、可靠性治理、观测与审计、配置和灰度几个部分。回答要强调边界:网关不是只做转发,而是承担能力抽象、故障隔离、降级切换、成本治理和可观测性;但也不能把所有模型能力抹平成最低公约数,否则会损失模型特性。因此设计上要有基础统一契约和可扩展 capability 描述,既屏蔽常见差异,又允许业务显式选择高级能力。
用 LangChain 编排 AI 工作流时,如何和原生调用、自研引擎做选型,并分析各自优缺点和瓶颈?
这题考察的是 AI 工作流编排的技术选型,而不是问 LangChain 好不好。高质量回答要先拆清楚业务复杂度:只是单轮模型调用、少量 prompt 链、RAG 检索增强、工具调用、长流程状态机、多 Agent 协作,还是需要可视化编排、回放、权限、灰度和审计。原生调用的优势是简单、可控、性能和依赖风险低,适合链路短、业务稳定、团队希望自己掌握协议的场景;LangChain 的优势是生态组件多、原型快、抽象现成,适合探索期和标准 RAG/Tool/Agent 流程,但瓶颈是抽象层厚、版本变化、调试复杂、性能和可观测性需要补强;自研引擎适合业务流程复杂、稳定性和治理要求高、需要平台化复用的场景,但成本高、周期长,容易重复造轮子。最终选型不是三选一的宗教问题,而是按阶段演进:原型期可以用框架提速,核心生产链路要收敛成自己的稳定接口和可观测执行模型。
Agent 调用外部工具失败时,如何区分短暂网络抖动、工具服务不可用和业务错误,并设计超时、重试、熔断与降级策略?
这道题考察 AI Agent 工具调用的工程可靠性设计。好的回答不能只说失败就重试,而要先把失败分类,再为不同错误配置超时、退避重试、幂等、防风暴、熔断、降级和观测告警。
AI/自动化 Agent 平台如何结合 Jenkins 调度执行、Linux 日志采集解析和配置规则治理,实现状态回传、参数校验,并从拉日志演进到自动排障?
这题考 AI/自动化 Agent 平台的工程落地能力,重点是 Jenkins 调度、Linux 多机日志采集、配置规则治理、状态回传、参数校验,以及从拉日志工具演进到自动诊断和受控排障的路线。
把大模型 API Demo 落地到真实业务时,产品经理应如何筛选需求、接入数据、评估效果,并控制工程化上线风险?
这题考把大模型 API Demo 从“能演示”推进到“能稳定服务真实业务”的产品落地能力。回答要覆盖需求筛选、业务数据接入、效果评估、灰度上线、成本延迟、模型不确定性和工程兜底,而不是只讲调用了某个模型接口。
AI Agent 遇到上下文污染、任务过长或工具结果不可靠时,如何用上下文裁剪、状态机拆分和工具链治理提升稳定性?
这题考 Agent 稳定性治理。关键是把上下文污染、长任务失控和工具不可靠拆开处理:上下文裁剪保证输入干净,状态机拆分保证任务可控,工具链治理保证外部结果可验证,再用 trace、回放、评测和恢复策略形成生产闭环。
构建复杂 LLM Agent 时最主要的挑战是什么,如何处理可靠性、规划、工具调用和可观测性?
这题考复杂 Agent 的生产可靠性理解。高质量回答要说明最大的挑战不是“会不会用框架”,而是 LLM 非确定性、规划漂移、工具误调用、上下文污染、循环失控、成本延迟和问题定位困难,并给出工程化治理方案。
Agent 中多个工具语义相近且副作用不同,如何设计工具命名、description 和 JSON Schema,避免误选、漏参和高风险误触发?
这题考 Function Calling/Agent 工具契约设计。回答要讲工具命名做候选粗筛,description 划清使用/禁用边界,JSON Schema 约束参数和缺失处理,再配合权限、示例和评测降低误调用。
Agent 推理链路中多个工具串行调用导致响应变慢时,如何优化延迟并保证结果可靠?
这题考 Agent 多工具链路性能优化。回答要覆盖依赖分析、并行化、缓存、批处理、模型调用压缩、流式反馈、降级和可靠性校验。