标签题目
模型评估相关面试题第 5 页
大模型后训练中，PPO 为什么通常被视为 on-policy，importance sampling 起什么作用？
PPO 通常被视为 on-policy，是因为它的训练样本来自当前或刚刚冻结的行为策略，更新只在这批新 rollout 附近做有限幅度的策略改进，而不是长期复用任意历史策略产生的数据。importance sampling 在 PPO 中主要通过新旧策略概率比修正采样策略和待优化策略之间的小偏差，使我们能用旧策略采到的样本估计新策略目标；但由于只修正动作概率、对状态分布偏移和大幅策略漂移无能为力，所以它不能把 PPO 变成真正意义上的通用 off-policy 算法。
Qwen 这类大模型做多语言支持时，数据配比、分词、对齐训练和评估应如何设计？
Qwen 这类大模型做多语言支持时，设计重点不是简单增加几种语言语料，而是要在数据配比、tokenizer 覆盖、跨语言指令对齐、偏好训练、安全策略和评估体系之间做平衡。高资源语言提供通用能力和知识密度，低资源语言需要通过采样温度、质量过滤、合成数据和翻译增强避免被淹没；tokenizer 要兼顾不同文字系统的压缩率和 byte fallback；对齐训练要避免只对中文或英文有效；评估也要覆盖语言质量、任务能力、文化语境、安全和 code-switch 等真实场景。
RAG 中 query rewrite、HyDE 和 RRF 分别解决什么问题，如何接入混合检索链路？
这题考的是候选人是否能区分 query rewrite、HyDE 和 RRF 在混合检索中的职责：rewrite 改善查询表达，HyDE 用假设答案拉近语义空间，RRF 融合多路召回结果，它们分别作用在召回前、向量查询构造和多路结果融合阶段。
RAG 中如何评估 Rerank 的有效性，应该看哪些离线指标和线上指标？
这题考的是候选人能否把 rerank 评估从“看排序模型分数高不高”讲成完整闭环：离线看相关性排序和证据覆盖，线上看答案质量、用户行为、延迟成本和系统稳定性，并注意 rerank 可能改善排序但损害整体 RAG 体验。
Agent 系统可观测性平台应记录哪些 trace，LangSmith 和 Langfuse 如何用于调试与评估？
这题考 Agent 可观测平台该记录什么，以及如何把 trace 用于调试和评估。好的回答要覆盖请求级 trace、LLM 调用、工具调用、检索、记忆、planner、guardrail、人工反馈、成本延迟和评测结果，并说明 LangSmith 与 Langfuse 都可以承载调试和评估闭环，但选型应基于技术栈、部署合规、数据治理、评测流程、成本和集成方式，而不是简单说谁更强。
模型做 W4A8 量化或模型迁移后，如何验证激活值、梯度和权重是否正确，并用校准数据控制误差？
这题考量化和迁移后的数值正确性验证：要能从权重映射、激活分布、梯度流、逐层误差、校准集覆盖和端到端指标几层建立质量闭环，而不是只跑一遍精度评测。
RAG 中既然向量检索已经计算相似度，为什么还需要 Cross-Encoder 重排？
这道题考察 RAG 检索链路中双塔向量召回和 Cross-Encoder 重排的职责边界。好的回答要说明向量检索适合在大规模语料上做低成本粗召回，但它把 query 和文档分别编码，主要比较全局语义相似度，难以精细判断短语匹配、否定关系、字段约束、时效和答案可用性。Cross-Encoder 把 query 与候选片段一起输入模型，可以做 token 级交互和上下文相关判断，因此通常用于小候选集精排。回答还应覆盖成本、延迟、候选规模、失败模式、评估指标和何时不需要重排。
如果项目要基于 Claude Code 这类现成 Agent 做领域适配，如何设计数据边界、工具接入、RAG、评测和监控？
这道题考察如何把现成 Coding Agent 或通用 Agent 平台做成某个业务域可用的工程系统。回答不能停留在“加提示词”或“接几个工具”，而要围绕数据边界、权限隔离、工具契约、领域知识 RAG、任务流程、评测集、灰度发布、监控和人工接管设计。重点是让通用 Agent 只在授权数据和明确工具能力内行动，用可回放、可评测、可审计的方式逐步扩大自主能力。
内容安全类 Agent 需求如何从“万能问答”拆成可评测的原子能力、输入输出契约和停止条件？
这题考的是把模糊的内容安全 Agent 需求工程化。不能把它做成什么都能问、什么都回答的聊天助手，而要拆成可独立评测的能力单元，例如分类、证据抽取、规则匹配、风险解释、处置建议和人工复核触发，并为每个能力定义输入、输出、置信度和停止条件。
SmoothQuant 为什么要做 activation/weight 平滑？平滑参数如何设定，用激活分布判断模型是否适合时应关注 input channel 还是 output channel？
这道题考察对 SmoothQuant 的核心动机、等价变换和校准维度的理解。回答时要先说明 LLM 的激活 outlier 会让 INT8 activation 量化特别困难，而 SmoothQuant 通过按输入通道缩放，把一部分动态范围压力从 activation 平滑地迁移到 weight 上，从而让 W8A8 推理更稳定。关键点不是笼统地说做归一化，而是说明缩放不改变浮点计算语义、参数需要用校准集和逐层误差选择，并明确判断激活分布时主要看线性层的 input channel 维度。
AWQ 和 GPTQ 的量化原理有什么区别？在 LLM 推理部署中它们各自适合什么取舍？
这道题要求区分 AWQ 和 GPTQ 都是大模型后训练量化方法，但优化目标和工程取舍不同。GPTQ 更像基于二阶近似的逐块权重量化误差补偿，利用校准激活构造 Hessian 近似来最小化层输出重构误差；AWQ 则强调 activation-aware 的显著权重保护，通过观察激活通道重要性和缩放搜索减少关键通道误差。好的回答要能讲清原理差异、校准成本、精度与速度、kernel 适配、以及在 LLM 推理部署中的选择标准。
LLM 训练过程中应该监控哪些指标，如何用 loss、梯度、吞吐、显存、GPU 利用率、checkpoint 和评测集发现异常？
这道题考察 LLM 训练监控体系，而不是只问 loss 曲线。完整回答要覆盖模型质量、数值稳定性、吞吐性能、资源利用、数据管道、checkpoint 可靠性和周期评测。更重要的是说明如何用这些指标定位异常：loss spike 可能来自坏数据或学习率问题，梯度爆炸会伴随 grad norm 和 NaN，吞吐下降可能来自 dataloader、通信或 straggler，显存增长可能是泄漏或碎片，评测集退化可能暴露过拟合、数据污染或训练分布偏移。
LLM 预训练数据清洗中，如何结合质量模型、PPL、去重和领域规则过滤更适合模型学习的数据？
这题考的是预训练数据治理的系统性判断：不能只说按 PPL 阈值删除，也不能只依赖一个质量分类器，而要把数据规范化、质量打分、PPL 异常检测、重复样本压制、领域规则、分布保留和下游验证串成闭环，目标是在降低噪声和污染的同时保留对模型能力真正有贡献的多样知识。
LLM 预训练或 SFT 的数据配比如何量化评估？如何用实验、领域切片和评测指标判断一个 mixture 是否更好？
这题考的是把数据配比从经验拍脑袋变成可实验、可度量、可解释的优化问题。好的回答应覆盖目标能力定义、候选 mixture 设计、token 级采样权重、短程代理实验、领域切片评测、统计显著性、负迁移排查和 Pareto 取舍，而不是只说多放高质量数据或按业务重要性调比例。
RLHF、DPO、PPO 或 GRPO 中 reference model 起什么作用？如果不能保留完整 reference，可以用哪些替代或近似约束？
这题考的是对齐训练里 reference model 的约束本质：它不是装饰性的第二个模型，而是定义“不要偏离初始策略太远”的行为锚点。在 PPO、DPO、GRPO 等方法中，reference 通过 KL、log probability ratio 或隐式 reward 基线抑制奖励黑客、语言退化和安全边界漂移；如果不能完整保留，也要知道哪些近似能替代、哪些只能部分约束。
CV 任务中的注意力机制有哪些应用，通道注意力、空间注意力和自注意力分别解决什么问题？
这题考的是对视觉注意力的结构化理解：注意力不是一个单一模块，而是从通道、空间、像素/patch 关系、跨尺度和跨模态等角度重新分配特征权重。好的回答要能区分通道注意力解决“看哪些语义特征”、空间注意力解决“关注哪些空间位置”、自注意力解决“建模长距离关系”，并结合分类、检测、分割、ReID、视频和 OCR 讲应用与代价。
目标检测任务的损失函数如何设计，分类、框回归、IoU 和样本匹配各解决什么问题？
目标检测损失不是把分类和框坐标简单相加，而是在解决四类不同问题：哪些位置有目标、目标属于什么类别、预测框和真实框如何几何对齐、哪些候选样本应该接受哪一个真实框监督。好的回答要先拆检测头输出，再解释分类损失、回归损失、IoU 类损失和样本匹配之间的依赖关系，最后讨论正负样本不平衡、损失权重、匹配策略变化对收敛和 AP 的影响。
图像融合算法怎么实现？像素级、特征级和决策级融合分别适合什么场景？
这题考的是对图像融合任务的完整建模能力：不仅要说把多张图加权平均，还要能区分像素级、特征级和决策级融合在信息粒度、配准要求、鲁棒性、可解释性、计算代价和适用场景上的差异，并给出可落地的实现、评估和故障排查思路。
DAPO、GSPO、GFPO 等 GRPO 变体分别试图解决哪些后训练问题？
这题考的是候选人是否能把 GRPO 变体放到后训练问题图谱里理解，而不是背算法名。好答案要先说明 GRPO 的基本形态：同一 prompt 采样一组回答，用组内相对奖励估计 advantage，减少显式 critic 需求；再说明 DAPO、GSPO、GFPO 分别主要针对大规模长推理 RL 中的训练稳定性、更新粒度和推理长度效率问题。由于这些算法较新，边界是只按公开论文和公开实现文档描述，不声称未公开训练配方，也不把不同团队的缩写含义混为确定事实。
DeepSeek-R1 的后训练流程如何从 SFT、RL 到可验证推理能力逐步构建？
这题考的是候选人是否能按公开技术报告复述 DeepSeek-R1 的后训练逻辑，而不是泛泛说“先 SFT 再 RL”。好答案要区分 DeepSeek-R1-Zero 和 DeepSeek-R1：前者直接从 base model 做大规模 RL，展示可验证推理奖励能诱导反思、验证和更长 CoT；后者用少量冷启动长 CoT 数据改善可读性和训练稳定性，再经过推理 RL、拒绝采样生成 SFT 数据、通用能力 SFT、全场景 RL，并把大模型推理模式蒸馏到小模型。边界是只描述公开论文/官方报告内容，不扩展到未公开训练细节或其它机构的具体做法。
同题还出现在 1 个公司岗位
Agent 工具调用训练中，如果一个 query 有多个可用工具，如何构造样本让模型学会工具选择偏好？
这道题考察的是 Agent 工具调用训练里的偏好学习，而不是简单判断某个工具能不能用。好答案要说明：当多个工具都可完成同一 query 时，训练样本不能只保留一个正确 tool call，而要把候选工具、选择理由、约束条件、反事实样本和评价指标都设计出来，让模型学会在成本、延迟、稳定性、精度、覆盖范围和任务阶段之间做取舍。
DPO、PPO、GRPO 三种对齐方法在工程上如何选择，各自适合什么反馈和决策场景？
这题考的是候选人能否把 DPO、PPO、GRPO 从“算法名词”落到工程选择。好答案要先按反馈形态和决策场景分类：只有离线成对偏好时优先 DPO；有可训练奖励模型、在线采样和长链动作优化需求时考虑 PPO；同一 prompt 能采多条候选并用组内相对奖励比较，尤其是可验证任务或推理题时适合 GRPO。还要讲清 reward hacking、KL 漂移、长度偏置、探索成本、训练稳定性和评估指标。
同题还出现在 2 个公司岗位
大模型后训练投入成本如何决策，怎样用效果收益、训练成本、推理成本和风险指标做取舍？
这题考的是大模型后训练的工程 ROI 判断。好答案不能只说效果好就继续训，而要把收益、训练成本、推理成本、数据和安全风险放到同一张决策表里，用离线评测、线上指标、成本模型和风险阈值决定做 SFT、DPO/RL、数据修复、提示词优化、RAG、蒸馏还是不做。
推荐系统中的用户画像和特征工程如何实现，怎样保证训练样本与线上特征口径一致？
这道题考察推荐特征工程的体系化能力。好答案不只是列画像字段，而要说明画像分层、特征定义、时间窗口、训练样本构造、线上读取、point-in-time correctness、特征平台复用和训练服务一致性，否则很容易出现泄漏、口径漂移和线上效果回退。
Word2Vec 负采样为什么能加速训练，训练目标如何理解？
这道题考察 Word2Vec 训练目标的本质。负采样不是简单少算几个词，而是把 full softmax 的大词表多分类问题改成真实共现与噪声共现的二分类学习，每个正样本只更新少量负例，从而把复杂度从 O(|V|) 降到 O(K)，同时学到可用于相似性和共现关系的 embedding。
推荐系统多路召回的候选分数能直接相加吗，如何做归一化、配额和融合？
这道题考察多路召回的融合意识。不同通道的原始分数通常没有同一语义：cosine、共现分、热度、规则 rank 和模型分不可直接相加。好答案要把归一化、排序融合、校准、配额、去重、多通道命中特征、通道贡献和线上指标串起来。
推荐排序阶段通常使用哪些特征，如何划分用户、物品、上下文和交叉特征并保证线上线下一致？
这道题考察推荐排序阶段的特征体系。好答案要把用户、物品、上下文和交叉特征讲清楚，并进一步说明统计特征的时间截断、实时/近线/离线更新、训练服务一致性、特征监控和模型指标，否则容易停留在简单枚举。
NLP 中 EDA 数据增强有哪些操作，什么时候会伤害语义和标签一致性？
这道题考察 NLP 数据增强的边界意识。EDA 的同义词替换、随机插入、交换和删除只在标签保持不变时有价值；对否定词、实体、数字、时间、领域术语、槽位和逻辑关系敏感的任务，盲目增强会制造噪声标签，导致验证和线上效果变差。
电商 App 中的 AI 穿搭推荐功能应如何设计整体流程，并从数据来源、模型链路和效果评估上落地？
这道题考 AI 推荐系统设计，重点不是只说“训练一个推荐模型”，而是把商品图文、用户偏好、穿搭兼容性、业务约束、线上反馈和评估闭环串起来。
线上模型效果变差时，如何从数据漂移、特征、模型版本、评估集和服务链路排查？
这道题考模型线上效果诊断。关键是先确认指标和影响范围，再按数据、特征、模型、评估、服务链路和实验版本逐层排查，避免一上来只怪模型。
在商品库中如何快速找出相似商品描述，倒排索引、向量召回和 ANN 检索各适合什么场景？
这道题考商品文本检索的工程设计。好答案要先定义“相似”是近重复、同款、替代品还是语义相关，再比较倒排索引、向量召回和 ANN 的机制、成本、召回质量、实时更新和线上评估。
垂类大模型从通用模型到业务落地通常要经历哪些训练和迭代步骤？
垂类大模型不是把通用模型直接接入业务就结束，而是从业务任务定义、领域数据建设、模型适配训练、评测 badcase、灰度上线到反馈闭环的一整套工程化迭代。本题聚焦完整训练和落地链路，不是产品经理个人贡献分工。
什么业务适合用大模型，什么业务更适合用小模型，如何按复杂度、成本、延迟和风险做选型？
大模型和小模型选型不是按技术先进程度决定，而是按任务复杂度、开放性、质量收益、成本延迟和风险等级综合判断。复杂生成、多轮推理、开放问答适合大模型；标准分类、固定规则、高频低价值、低延迟任务更适合小模型、规则或传统算法。
RAG 产品出现 badcase 时，如何从知识库、检索、生成和反馈闭环提高效果？
RAG badcase 优化不能只调 Prompt，而要把问题拆成知识、检索、生成、反馈四层定位：先按严重度和归因分类，再用日志还原证据链，最后通过知识治理、召回重排、上下文组织、生成约束和用户反馈回流形成持续迭代闭环。
大模型时代，小模型还有哪些价值，如何在效果、成本和延迟之间取舍？
大模型时代小模型仍然有价值，尤其在低延迟、低成本、高并发、端侧部署、隐私保护和专用任务上。合理方案通常不是二选一，而是用小模型承担高频、确定、轻量任务，用大模型处理复杂、开放、低置信或需要强推理的请求。
Agent 中输入特征和记忆模块有什么区别，如何分别建模当前请求状态和跨轮上下文？
Agent 的输入特征描述当前请求状态，记忆模块保存跨轮和跨会话的上下文。二者的核心区别在生命周期、更新方式、存储介质和使用目标：输入特征偏实时、短暂、结构化，记忆偏持久、可检索、需要治理。
大模型产品中的知识库主要适合哪些应用场景，如何判断是否值得建设？
大模型产品中的知识库最适合解决高频、相对稳定、需要权威来源、可追溯引用的知识问答问题，例如客服问答、内部制度查询、SOP 操作指导、销售培训、产品手册和员工自助服务。判断是否值得建设，关键看知识是否结构化可维护、用户问题是否高频重复、答案是否需要一致和合规，以及上线后能否用命中率、解决率、转人工率、引用准确率和幻觉率来验证价值。
垂类大模型主要解决哪些通用大模型难以满足的业务问题，产品上如何判断投入价值？
垂类大模型主要解决通用大模型在特定行业里准确性不足、术语理解不深、流程规则不熟、合规约束不稳定、输出一致性不够的问题。产品上判断是否值得投入，不能只看模型效果，而要综合领域知识密度、错误成本、数据闭环、评测集、替代方案、ROI、成本、延迟和上线风险。
业务 Agent 的评测流程应该怎么设计？如果工具被多调用但不影响最终结果，应该用哪些指标描述冗余工具调用？
这题考业务 Agent 评测，不是简单统计工具调用次数。关键是判断某次工具调用是否带来新增信息、状态推进或风险降低，再用 trace、反事实回放和人工标注校准冗余工具调用指标。
推理优化中为什么可以做 Conv+BN 融合，融合后的权重和偏置公式如何推导？
这题考推理态算子融合的数学等价性和工程收益。BN 在 inference 时使用固定 running mean/variance，是逐输出通道仿射变换，所以可以吸收到前一层卷积的权重和偏置里，减少算子调度和中间 tensor 读写。
推理框架中卷积算子通常有哪些实现方式，如何按输入形状、硬件和延迟目标选型？
这题考推理框架里的卷积实现谱系，而不是卷积数学定义。回答要覆盖 direct、im2col/GEMM、implicit GEMM、Winograd、FFT、1x1/depthwise/group 专用 kernel，并说明选型受形状、batch、硬件、内存带宽、精度和端到端延迟影响。
Agent 开发框架通常由哪些核心组件组成，Planner、Memory、Tools、Executor 和 Evaluator 分别负责什么？
这题考察候选人是否能把 Agent 从“调用大模型的应用”拆成可工程化的运行系统。好的回答应说明 Planner 负责把目标拆成步骤，Memory 负责保留和检索上下文，Tools 负责连接外部能力，Executor 负责按计划执行并处理状态，Evaluator 负责判断结果质量和是否需要重试、修正或终止。重点不是背组件名，而是讲清楚组件之间的数据流、控制流、失败兜底和可观测性。
知识卡片抽取 Prompt 中为什么要同时写好示例和坏示例，如何用正反 few-shot 稳定结构化输出？
这题考察 Prompt Engineering 在结构化抽取任务中的设计能力。知识卡片抽取不是泛泛总结，而是把原始内容稳定映射到字段、格式和质量标准。好示例告诉模型什么是合格输出，坏示例和反例告诉模型哪些边界、误抽、过度概括和格式错误不能接受。优秀回答应覆盖 schema 约束、正反 few-shot、错误类型、评估指标和迭代方法。
大模型 SFT 从数据构建到训练通常怎么做，SFT 之后 DPO、RLHF/PPO、RL 等 Post-Training 分别解决什么问题？
这题考察候选人是否真正理解大模型对齐训练链路，而不是只会背 SFT、DPO、RLHF 这些名词。好的回答要先讲 SFT 的数据构建、清洗、格式化、训练和评估流程，再解释 SFT 主要让模型学会按指令输出，DPO/RLHF/PPO 等 Post-Training 进一步处理偏好对齐、安全边界、复杂任务奖励和人类反馈优化。面试重点是区分每个阶段解决的问题、依赖的数据形态和带来的风险。
Agent 评估体系应该覆盖哪些维度，如何分别衡量规划能力、任务成功率和幻觉率？
这题考察 Agent 评估体系设计。好的回答要把评估拆成任务成功、规划质量、工具调用质量、事实一致性、幻觉率、安全合规、成本延迟和用户体验等维度。规划能力和幻觉率不能都靠主观打分，应该结合离线任务集、步骤级 trace、工具结果、证据对齐、人工标注和线上指标。
RAG 知识库有十几万文档时，如何设计切片、索引、召回和增量更新，避免检索质量与性能下降？
这题考察大规模 RAG 知识库的工程扩展能力。十几万文档不是简单把文本塞进向量库，而要设计文档解析、切片策略、索引结构、召回链路、重排、增量更新、权限过滤、评估和性能优化。好的回答要同时覆盖质量和性能，说明如何避免召回变差、延迟变高、索引过期和重复内容污染。
RAG 生成阶段如何把 top3/top10 文本块和文档信息组织进 Prompt，控制模型基于证据输出？
这题考 RAG 生成阶段的证据组织和约束生成能力，重点是把 top3/top10 chunk、文档元数据、冲突处理和引用规则放进 Prompt，而不是简单拼接检索结果。回答要聚焦 evidence packing 和 grounded generation，不要扩成泛泛的召回优化。
预算有限时，AIGC 定制化广告素材产品如何制定需求优先级并推动模型优化？
这题考商业化 AIGC 产品经理在预算有限时的取舍能力。题源 evidence 聚焦客户希望生成定制化广告素材但预算有限，回答要把需求优先级、客户价值、模型优化、合规风险和商业指标串起来，而不是直接承诺给每个客户做完全定制。