分页题目
快手相关面试题第 2 页
RAG 中如何评估 Rerank 的有效性,应该看哪些离线指标和线上指标?
这题考的是候选人能否把 rerank 评估从“看排序模型分数高不高”讲成完整闭环:离线看相关性排序和证据覆盖,线上看答案质量、用户行为、延迟成本和系统稳定性,并注意 rerank 可能改善排序但损害整体 RAG 体验。
RAG 中既然向量检索已经计算相似度,为什么还需要 Cross-Encoder 重排?
这道题考察 RAG 检索链路中双塔向量召回和 Cross-Encoder 重排的职责边界。好的回答要说明向量检索适合在大规模语料上做低成本粗召回,但它把 query 和文档分别编码,主要比较全局语义相似度,难以精细判断短语匹配、否定关系、字段约束、时效和答案可用性。Cross-Encoder 把 query 与候选片段一起输入模型,可以做 token 级交互和上下文相关判断,因此通常用于小候选集精排。回答还应覆盖成本、延迟、候选规模、失败模式、评估指标和何时不需要重排。
向量数据库检索到语义相关但时间过久的历史信息时,RAG 系统应如何判断能否使用?
这道题考察 RAG 系统面对“语义相关但时间过久”的向量检索结果时,如何把相关性判断升级为证据可用性判断。回答要说明不能只看 embedding 分数,而要结合问题的时效敏感度、文档时间戳、版本、生效范围、来源权威性、与新证据的冲突情况和业务风险来决定使用、降权、补检、拒答或提示不确定。好的方案还要覆盖元数据过滤、时间衰减、动态检索、冲突检测、评估指标和上线监控。
LLM 推理中做 KV Cache sparse 计算时,vLLM/Triton 实现为什么可能选择稀疏索引或稀疏块,而不是直接用 dense mask?
这题考的是稀疏注意力在推理引擎里的真实性能取舍。dense mask 在数学上能表达稀疏模式,但计算和访存仍接近 dense attention;而稀疏索引或稀疏块能让 kernel 只读取和计算被选中的 KV cache,从而节省显存带宽、减少无效 FLOPs,并更适合 vLLM 这类分页 KV 和 Triton 块级并行实现。
SmoothQuant 为什么要做 activation/weight 平滑?平滑参数如何设定,用激活分布判断模型是否适合时应关注 input channel 还是 output channel?
这道题考察对 SmoothQuant 的核心动机、等价变换和校准维度的理解。回答时要先说明 LLM 的激活 outlier 会让 INT8 activation 量化特别困难,而 SmoothQuant 通过按输入通道缩放,把一部分动态范围压力从 activation 平滑地迁移到 weight 上,从而让 W8A8 推理更稳定。关键点不是笼统地说做归一化,而是说明缩放不改变浮点计算语义、参数需要用校准集和逐层误差选择,并明确判断激活分布时主要看线性层的 input channel 维度。
AWQ 和 GPTQ 的量化原理有什么区别?在 LLM 推理部署中它们各自适合什么取舍?
这道题要求区分 AWQ 和 GPTQ 都是大模型后训练量化方法,但优化目标和工程取舍不同。GPTQ 更像基于二阶近似的逐块权重量化误差补偿,利用校准激活构造 Hessian 近似来最小化层输出重构误差;AWQ 则强调 activation-aware 的显著权重保护,通过观察激活通道重要性和缩放搜索减少关键通道误差。好的回答要能讲清原理差异、校准成本、精度与速度、kernel 适配、以及在 LLM 推理部署中的选择标准。
分布式 LLM 训练中 AllReduce、AllGather、ReduceScatter 和 AllToAll 分别解决什么通信问题,哪些并行场景会用到它们?
这道题考察分布式训练中 collective communication 的语义和并行策略映射。回答要先把 AllReduce、AllGather、ReduceScatter、AllToAll 的输入输出关系讲清,再说明它们分别解决梯度汇总、参数或激活拼接、归约后分片、个性化交换等问题。进一步要能联系数据并行、张量并行、ZeRO/FSDP、序列并行、专家并行和 MoE token dispatch,指出通信量、同步开销、拓扑和 overlap 对训练效率的影响。
大模型训练显存如何估算,参数、梯度、优化器状态、激活和临时缓存各占哪些部分?
大模型训练显存可以先拆成 model states、activations、temporary buffers、通信缓存和碎片/框架开销。model states 包括参数、梯度和优化器状态;以 Adam 混合精度训练为例,常见粗估是参数 bf16/fp16 2P、梯度 2P、Adam 一阶和二阶矩 fp32 8P、可选 fp32 master weights 4P,总计约 12P 到 16P bytes。除此之外,activation 随 batch、sequence length、hidden size 和层数增长,长上下文 attention 还可能带来平方项;临时缓存包括 attention workspace、GEMM workspace、logits、通信 bucket、all-gather buffer 和内存碎片。估算时要同时考虑并行策略、ZeRO 分片、activation checkpointing、精度和 micro-batch。
同题还出现在 1 个公司岗位
接手一个未量化的大模型时,如何推进量化方案选择、校准、精度评估和推理性能迭代?
这题考未量化大模型的量化 rollout 方法论,重点是从部署目标、量化范围、校准集、kernel 支持、质量回归、性能收益到灰度回滚形成闭环,而不是背几个量化名词。
同题还出现在 1 个公司岗位
大模型后训练投入成本如何决策,怎样用效果收益、训练成本、推理成本和风险指标做取舍?
这题考的是大模型后训练的工程 ROI 判断。好答案不能只说效果好就继续训,而要把收益、训练成本、推理成本、数据和安全风险放到同一张决策表里,用离线评测、线上指标、成本模型和风险阈值决定做 SFT、DPO/RL、数据修复、提示词优化、RAG、蒸馏还是不做。
单机多卡和多机多卡训练的核心差异是什么,如何根据互联拓扑、通信开销和并行策略做选择?
这道题考察分布式训练的系统判断。单机多卡和多机多卡的差异不只是 GPU 数,而是互联拓扑、通信延迟、带宽、故障域、调度、存储和并行策略。好答案要能按显存瓶颈、计算/通信比、batch、模型规模和网络条件选择 DDP、FSDP/ZeRO、张量并行、流水线并行或组合方案。
同题还出现在 1 个公司岗位
怎么加速模型训练?
加速模型训练要从数据、模型、计算、分布式和实验流程五层回答。核心不是简单说“加 GPU”,而是减少无效计算、提高硬件利用率、降低通信成本,并保证加速后模型效果和可复现性不被破坏。
同题还出现在 1 个公司岗位
大模型时代,小模型还有哪些价值,如何在效果、成本和延迟之间取舍?
大模型时代小模型仍然有价值,尤其在低延迟、低成本、高并发、端侧部署、隐私保护和专用任务上。合理方案通常不是二选一,而是用小模型承担高频、确定、轻量任务,用大模型处理复杂、开放、低置信或需要强推理的请求。
超大模型部署到计算集群时,如何按计算图切分并做分布式模型管理?
这题考超大模型部署系统设计。关键是把模型表示为计算图,按依赖、内存、计算量、通信和 SLA 做图切分与设备放置,再用分布式模型管理处理分片版本、加载、路由、健康检查、灰度和回滚。
Agent Skill 如何用渐进式披露按需加载能力说明、执行步骤和工具细节?
这题考察 Agent Skill 的核心机制,以及如何通过渐进式披露降低上下文负担。Skill 不是简单工具函数,而是一组可被 Agent 发现、选择和执行的能力包,通常包含能力说明、适用条件、输入输出、执行步骤、工具依赖和失败处理。渐进式披露的关键是先暴露轻量索引和选择信号,只有命中时再加载详细说明、示例和执行细节。
从商业分析视角,优化快手广告推荐算法的分析框架是什么?如何平衡广告相关性和用户体验?
这题考商业分析师能否把广告推荐算法优化讲成业务目标、用户体验和实验验证共同约束的问题。高质量回答不能只说提升 CTR 或 eCPM,而要从广告链路、指标树、用户负反馈、广告主 ROI、长期留存和平台商业化边界出发。
SIM 在推荐系统长序列兴趣建模中改进了什么问题?
这题考推荐系统长序列兴趣建模的核心矛盾。SIM 改进的问题不是多任务学习本身,而是传统 DIN/DIEN 等模型通常只能使用较短历史行为,直接建模超长序列又计算重、噪声多、目标相关性弱。
Agent 的 think-execute 循环如何控制规划路径,避免偏离业务预期或无限循环?
这题考 Agent 循环规划的可控性,重点是说明为什么需要 think-execute,以及如何用目标约束、状态机、校验器、评估器、停止条件和测试回放确保路径不跑偏。
同题还出现在 1 个公司岗位
在快手商业化场景中,品牌广告和效果广告如何协同发展,并用哪些指标验证协同效果?
这道题考察商业分析师是否理解品牌广告和效果广告不是互相替代,而是在短视频平台的完整营销漏斗中分工协同。品牌广告负责建立认知、信任、内容资产和人群池,效果广告负责承接兴趣、再营销和转化。高质量回答要说明协同机制:统一人群、内容和度量,做曝光到互动、搜索、关注、进店、直播间、下单、复购的链路设计;指标上既看品牌提升、搜索提升、互动资产,也看转化、ROI、CAC、LTV、辅助转化和增量效果,并设置用户体验护栏。
短视频推荐精排模型上线时,如何在冷启动和热启动之间取舍,并评估收敛周期、资源消耗和线上风险?
这道题考察推荐精排模型上线方式选择。回答要区分冷启动全新训练和热启动继承已有模型,并围绕收敛、资源、线上风险、灰度和回滚制定方案。
在电商推荐在线 serving 链路中,如何优化精排模型推理计算,并用 RT/P99、QPS、资源成本和线上指标验证收益?
这道题考察推荐在线 serving 中精排推理优化的工程能力。回答要同时覆盖模型、特征、服务、硬件和评估,不应只说压缩模型或加机器。
RAG 文档发生局部更新时,如何通过增量索引避免全量重新向量化,并保证检索结果一致?
这题考生产级 RAG 数据更新。回答要讲文档版本、chunk 变更检测、增量 embedding、索引原子切换、删除 tombstone 和检索一致性。
多模态大模型如何支持动态分辨率输入,位置编码应如何设计以兼顾长宽比、局部细节和视觉 token 成本?
这题考 VLM 视觉输入工程。回答要讲动态分辨率切分、视觉 token 预算、位置编码、长宽比保留、局部细节和训练推理一致性。