可观测性面试题解析

如何保障服务稳定性？

这题考服务稳定性体系化思维，回答要从目标、风险预防、运行时止损、恢复复盘四层展开，而不是只背限流熔断。

CPU load 是什么？

这题考 Linux 性能指标理解，回答要区分 load average、CPU 使用率、核数和不可中断 I/O 等待。

删除文件后磁盘占用没有减少是什么原因？

这题考 Linux 文件删除语义，关键是说明目录项删除不等于 inode 和数据块立即释放。

日志服务如何异步写入，避免影响主流程？

这题考异步化、背压和可靠性分级，回答要说明日志不阻塞主流程的同时不能无限丢失或无限占内存。

排查性能瓶颈时应该监控哪些参数？

考察性能排查的指标体系和定位顺序，重点是从用户影响出发，沿应用、资源、依赖和链路追踪逐层收敛。

INP 和 TTFB 是什么？

这题考察性能指标理解。INP 衡量交互响应延迟，TTFB 衡量首字节到达时间，回答要说明定义、影响因素、定位方法和优化方向。

如何收集性能数据？

这题考察前端性能监控体系。回答要区分实验室数据和真实用户数据，说明 Performance API、PerformanceObserver、业务上下文和可靠上报策略。

怎么查看OS的负载？

查看 OS 负载不能只报一个命令，要说明 Linux load average 的含义、采集入口、判断标准和定位路径。核心是先用 uptime、top、w 或 /proc/loadavg 看 1/5/15 分钟平均负载，再结合 CPU 核数、运行队列、不可中断任务、IO 等待、上下文切换和进程级指标判断是 CPU 饱和、IO 阻塞还是调度压力。

后端慢 SQL 会如何影响前端体验？

后端慢 SQL 不只是后端问题，它会沿着请求链路放大为前端可感知的卡顿、白屏、加载时间过长、按钮无响应、接口超时、重复提交和数据不一致。核心机制是数据库读写占用锁、CPU、IO 和连接，进一步拖慢应用线程、连接池、网关队列与浏览器请求队列，最终影响页面渲染、交互反馈和业务流程完成率。

前端监控系统应该如何实现？

前端监控的核心不是简单收集日志，而是建设一套从 SDK 采集、数据清洗、可靠上报、服务端聚合、指标分析、告警响应到问题复盘的闭环体系。它通常覆盖错误监控、性能监控、用户行为埋点、接口质量、业务转化、环境信息和隐私合规。面试回答时要强调：监控目标先于技术实现，数据质量先于数据规模，告警闭环先于报表展示。

有考虑过什么情况下服务器压力会过大？

服务器压力过大本质上不是“访问量大”这一件事，而是系统在当前容量下无法稳定满足目标延迟、吞吐和错误率要求。常见原因包括流量突增、请求复杂度升高、CPU 或内存耗尽、磁盘和网络 IO 瓶颈、数据库慢查询与锁等待、缓存失效、线程池或连接池耗尽、下游依赖变慢、重试放大以及缺少限流降级和弹性扩容能力。面试回答时应从“压力来源、瓶颈位置、观测指标、保护手段、扩容治理”几个层次展开。

netstat 中的 Recv-Q 和 Send-Q 有什么区别？

netstat 的 Recv-Q 和 Send-Q 分别反映 socket 接收队列和发送队列中的未处理数据。回答要区分监听 socket、已建立连接、应用是否及时读写，以及网络或对端是否导致堆积。

linux怎么查看cpu使用情况？

linux怎么查看cpu使用情况？这道腾讯牛客题的关键是围绕“Linux CPU 使用率观测与定位”讲清概念、机制、取舍和边界。Linux 查看 CPU 使用情况不能只报一个 top 命令。要区分整机 CPU 使用率、单进程/线程占用、用户态/内核态时间、iowait、load average 和上下文切换。不同指标回答的是不同层级的问题。

内存泄漏如何定位和排查？

内存泄漏如何定位和排查？这道腾讯牛客题的关键是围绕“内存泄漏定位与排查”讲清概念、机制、取舍和边界。内存泄漏排查要先确认是进程常驻内存持续增长、堆对象无法释放，还是缓存、连接、文件句柄等资源增长。Java 场景重点看堆转储、GC Roots 和对象引用链；C/C++ 场景还要看 malloc/new 未释放和越界破坏。

Linux中，如何查询系统负载情况？

Linux中，如何查询系统负载情况？这道腾讯牛客题的关键是围绕“Linux 系统负载查询”讲清概念、机制、取舍和边界。Linux 查询系统负载常用 uptime、top、w 或 cat /proc/loadavg。load average 的 1/5/15 分钟值表示一段时间内处于可运行 R 或不可中断睡眠 D 状态的任务平均数。

压测过程中关注哪些核心指标？

压测过程中关注哪些核心指标？这道腾讯牛客题的关键是围绕“压测核心指标”讲清概念、机制、取舍和边界。压测要关注吞吐、延迟、错误率、资源利用率、饱和点和稳定性。核心指标包括 QPS/TPS、P50/P95/P99、超时率、错误码、CPU、内存、GC、磁盘 I/O、网络、连接池、队列长度和依赖服务耗时。

数据库性能优化通常从哪些方向入手？

数据库性能优化通常从哪些方向入手？这道腾讯牛客题的关键是围绕“数据库性能优化方向”讲清概念、机制、取舍和边界。数据库性能优化要从定位、SQL/索引、表结构、事务锁、连接池、缓存、架构扩展和硬件参数多层看。先用慢查询日志、监控和执行计划定位瓶颈，再决定是改 SQL、加索引、拆表、调连接池还是做缓存/读写分离。

LLM 服务在 500 并发下如何把 TTFT P99 从 3s 优化到 1.5s？

这题考高并发 LLM 服务的首 token 长尾优化，回答要先建立可观测性，再从排队、调度、prefill/decode、批处理、KV 缓存、prompt 长度、容量和流式链路逐层处理。

LLM 多卡并行推理中，显存占用和通信开销如何影响吞吐与延迟？

这题考 LLM 多卡并行推理的性能瓶颈，回答重点是权重显存、KV Cache、prefill/decode 差异、并行切分通信、批处理调度和长尾延迟。

LLM 推理算子中，Tensor Core、WMMA 和 MMA 分别是什么，工程上如何选择使用层级？

这题考候选人是否理解 NVIDIA GPU 矩阵乘加的硬件、CUDA C++ 抽象和更底层指令接口。回答要能说明 Tensor Core 是硬件单元，WMMA 是较高层 CUDA API，MMA 是更贴近指令和 PTX 的矩阵乘加操作。

热搜应展示 10 条但页面只展示 9 条时，测试开发应如何定位前端、接口、排序和过滤链路问题？

这题考端到端定位能力。答案不能停留在“前端或后端都有可能”，而要说明如何固定复现条件，逐层核对接口响应、过滤去重、排序补位、客户端解析、渲染和日志，最终把缺失的一条定位到具体链路和可验证证据。

AI 平台接口上线前，如何验证模型降级、Prompt 版本追踪、配置回滚和缓存一致性？

这题考 AI 平台接口的上线准备，不是普通接口冒烟测试，而是围绕模型降级、Prompt 可追踪、配置回滚、缓存一致性、灰度观测和事故演练建立发布门禁。

音频模型从 QAT 量化感知训练到板端部署的完整流程是什么，遇到算子不支持、精度回退或性能不达标时如何排查？

这题考的是能否把 QAT 从训练技巧讲成完整工程闭环：先确定板端约束和浮点基线，再做 fake quant 训练、图转换、算子适配、板端对齐、精度回归和性能功耗压测。

RAG 中如何评估 Rerank 的有效性，应该看哪些离线指标和线上指标？

这题考的是候选人能否把 rerank 评估从“看排序模型分数高不高”讲成完整闭环：离线看相关性排序和证据覆盖，线上看答案质量、用户行为、延迟成本和系统稳定性，并注意 rerank 可能改善排序但损害整体 RAG 体验。

Agent 工具调用失败后，如何通过 trace 定位是意图识别、工具选择、参数生成还是工具服务本身的问题？

这题考的是 Agent 工具调用失败后的分层定位能力。好的回答不能只说看日志，而要把一次请求拆成意图识别、工具检索与选择、参数生成、执行前校验、工具服务调用、结果解释几个 span，并让每一层都有输入、输出、置信度、候选集、错误码、耗时和重试信息。定位时先判断用户意图是否被理解错，再看工具候选和最终选择是否合理，然后检查参数 schema、枚举、时间范围、权限上下文等是否正确，最后才归因到工具服务的网络、鉴权、超时、限流或业务错误。

Agent 系统可观测性平台应记录哪些 trace，LangSmith 和 Langfuse 如何用于调试与评估？

这题考 Agent 可观测平台该记录什么，以及如何把 trace 用于调试和评估。好的回答要覆盖请求级 trace、LLM 调用、工具调用、检索、记忆、planner、guardrail、人工反馈、成本延迟和评测结果，并说明 LangSmith 与 Langfuse 都可以承载调试和评估闭环，但选型应基于技术栈、部署合规、数据治理、评测流程、成本和集成方式，而不是简单说谁更强。

TensorRT-LLM（TRT-LLM）和 vLLM 在 LLM 推理部署中有什么区别，TRT-LLM 主要靠哪些机制加速？

这题考 LLM 推理部署中的系统取舍。好的回答要把 vLLM 和 TensorRT-LLM 区分为不同工程侧重点：vLLM 更像面向在线服务的通用推理引擎和调度系统，强调 PagedAttention、连续批处理、OpenAI 兼容服务和模型接入灵活性；TensorRT-LLM 更贴近 NVIDIA GPU 上的编译优化与高性能运行时，强调 TensorRT engine、算子融合、专用 kernel、量化、KV cache、in-flight batching 和多 GPU 通信优化。不能简单说谁一定更快，要看模型、硬件、batch、延迟目标和工程成本。

LLM 推理引擎中 GPU 内存管理机制应如何设计，如何管理 KV Cache、显存碎片、并发 batch 和 OOM 降级？

这题考的是推理引擎的显存资源治理能力：不能只会调用 CUDA malloc，而要能把 KV Cache、临时 workspace、权重、并发请求、碎片控制和 OOM 降级统一成可预测、可观测、可调度的内存系统。

大模型推理时出现 OOM，如何从 batch、输入长度、KV Cache、临时张量峰值和算子实现排查？

这题考推理 OOM 的系统化排障能力：要能把显存占用拆成权重、KV Cache、prefill 临时峰值、decode 并发、算子 workspace 和碎片，并用可复现实验逐步定位，而不是一句降低 batch size。

如果项目要基于 Claude Code 这类现成 Agent 做领域适配，如何设计数据边界、工具接入、RAG、评测和监控？

这道题考察如何把现成 Coding Agent 或通用 Agent 平台做成某个业务域可用的工程系统。回答不能停留在“加提示词”或“接几个工具”，而要围绕数据边界、权限隔离、工具契约、领域知识 RAG、任务流程、评测集、灰度发布、监控和人工接管设计。重点是让通用 Agent 只在授权数据和明确工具能力内行动，用可回放、可评测、可审计的方式逐步扩大自主能力。

Agent 项目中的 harness engineering 是什么，如何支撑工具模拟、回放、评测、回归和线上前验证？

这题考的是 Agent 工程里的验证基础设施意识。harness engineering 不是写几个单测，而是为不稳定的模型输出、外部工具、副作用和多轮状态机建立可控运行环境，让开发者能模拟工具、回放真实轨迹、做离线评测、跑回归并在上线前发现风险。

LLM 训练过程中应该监控哪些指标，如何用 loss、梯度、吞吐、显存、GPU 利用率、checkpoint 和评测集发现异常？

这道题考察 LLM 训练监控体系，而不是只问 loss 曲线。完整回答要覆盖模型质量、数值稳定性、吞吐性能、资源利用、数据管道、checkpoint 可靠性和周期评测。更重要的是说明如何用这些指标定位异常：loss spike 可能来自坏数据或学习率问题，梯度爆炸会伴随 grad norm 和 NaN，吞吐下降可能来自 dataloader、通信或 straggler，显存增长可能是泄漏或碎片，评测集退化可能暴露过拟合、数据污染或训练分布偏移。

开发 MCP 服务时，如何设计 resources/tools/prompts、输入输出 schema、权限和可观测性？

这道题考察的是 MCP 服务的能力建模和治理能力，而不是会不会写一个 HTTP endpoint。好答案要从 resources、tools、prompts 三类能力暴露开始，定义清晰的输入输出 schema、权限和错误语义，再补上发现机制、版本兼容、超时重试、可观测性、回放和审计，保证 Agent 能安全、稳定、可追踪地使用 MCP 服务。

生产中的 AI 服务如何保障全天稳定运行，覆盖资源、限流、降级、监控和模型依赖治理？

这道题考 AI 服务稳定性治理。好答案要覆盖容量、GPU/模型资源、流量控制、依赖失败、降级策略、监控告警、灰度发布和故障演练。

如何评价并落地 AI 辅助开发：它能提升哪些开发环节，开发者仍必须承担哪些工程责任？

这道题考候选人对 AI 编程工具的工程判断。好答案要说明 AI 能提升需求拆解、代码阅读、样板代码、测试、排错和文档效率，也要明确架构决策、正确性、安全、隐私、性能、代码审查和最终交付责任仍在开发者。

同题还出现在 1 个公司岗位

业务 Agent 的评测流程应该怎么设计？如果工具被多调用但不影响最终结果，应该用哪些指标描述冗余工具调用？

这题考业务 Agent 评测，不是简单统计工具调用次数。关键是判断某次工具调用是否带来新增信息、状态推进或风险降低，再用 trace、反事实回放和人工标注校准冗余工具调用指标。

Agent 评估体系应该覆盖哪些维度，如何分别衡量规划能力、任务成功率和幻觉率？

这题考察 Agent 评估体系设计。好的回答要把评估拆成任务成功、规划质量、工具调用质量、事实一致性、幻觉率、安全合规、成本延迟和用户体验等维度。规划能力和幻觉率不能都靠主观打分，应该结合离线任务集、步骤级 trace、工具结果、证据对齐、人工标注和线上指标。

AI 服务中的多模型降级与熔断机制如何设计，怎样定义异常、状态流转和自动恢复条件？

这题考察 AI 服务后端的稳定性设计。多模型降级和熔断不是简单把模型 A 挂了切到模型 B，而要定义异常、统计窗口、状态机、路由策略、自动恢复和质量兜底。好的回答要覆盖可用性、质量、成本、延迟、限流、观测和安全边界。

AI 返回 ECharts 图表配置时如果出错，前端应如何做校验、降级、重试、可观测性和用户提示？

这题考前端工程师能否把 AI 生成 ECharts 配置当成不可信输入处理，并设计校验、降级、重试、观测和测试闭环，保证图表功能稳定可用。

对接多家国内大模型官方 API 时，如何设计统一调用网关来屏蔽接口差异？

这题考察的是多大模型供应商接入时的工程抽象能力，不是简单写几个 if else 适配接口。好的统一调用网关要把业务层看到的协议收敛成稳定的内部模型契约，同时把供应商差异隔离在 adapter 层：消息格式、模型名、参数范围、流式协议、错误码、限流、鉴权、计费、上下文长度、工具调用、JSON 输出能力都不能泄漏给上层。架构上通常分为统一 API、路由与策略、provider adapter、可靠性治理、观测与审计、配置和灰度几个部分。回答要强调边界：网关不是只做转发，而是承担能力抽象、故障隔离、降级切换、成本治理和可观测性；但也不能把所有模型能力抹平成最低公约数，否则会损失模型特性。因此设计上要有基础统一契约和可扩展 capability 描述，既屏蔽常见差异，又允许业务显式选择高级能力。

AI/自动化 Agent 平台如何结合 Jenkins 调度执行、Linux 日志采集解析和配置规则治理，实现状态回传、参数校验，并从拉日志演进到自动排障？

这题考 AI/自动化 Agent 平台的工程落地能力，重点是 Jenkins 调度、Linux 多机日志采集、配置规则治理、状态回传、参数校验，以及从拉日志工具演进到自动诊断和受控排障的路线。

Agent 批量任务并发执行时，如何设计动态限流、优先级调度、背压机制和故障隔离，避免系统雪崩？

这题考生产级 Agent 批量任务的稳定性治理。回答要覆盖容量评估、动态限流、优先级调度、背压、隔离、降级和观测，而不是只说加队列或重试。

生产级 Agent 如何工程化实现自我校验、链路复盘、错误归因和动态修正？

这题考生产级 Agent 的质量闭环工程化。重点是把自我校验、链路复盘、错误归因和动态修正落到运行时、数据、评测和前后端体验中，而不是让模型简单反思一句。

客服 Agent 从通用 Agent 拆成 Expert Agent 后，如何设计 A/B 测试与指标归因，判断提升来自路由、Prompt 还是 Workflow，并监控是否引入泛化损失？

这题考架构改造后的实验归因能力。回答要说明如何设计 A/B 测试、拆指标、定位 Expert Agent 带来的收益，同时监控幻觉下降和泛化性损失。

智能运维助手中，Planner/Executor/Supervisor 多 Agent 模式相比单 Agent 有什么优势、边界和适用场景？

这题考智能运维助手的多 Agent 分工。回答要比较 Planner、Executor、Supervisor 与单 Agent 的差异，并说明适用场景、边界和工程代价。

高并发场景下如何设计 Agent 服务的弹性伸缩、核心监控指标和告警策略？

这题考生产级 Agent 服务治理。回答要把弹性伸缩、监控指标、告警策略和容量保护结合起来，而不是只讲加机器。

235B MoE 模型每 token 只激活约千分之三参数时，如何估算推理 FLOPs、显存占用、KV Cache 和吞吐瓶颈？

这题考 MoE 推理部署估算。回答要区分总参数、每 token 激活参数、权重存储、专家 FLOPs、KV Cache、专家并行通信，以及 prefill 和 decode 阶段的不同瓶颈。