已解析题目
算法工程师相关题目
MySQL 如何防止幻读?
MySQL 防止幻读要分清快照读和当前读。InnoDB 在可重复读下通过 MVCC 让普通查询看到稳定快照,通过 next-key lock 和 gap lock 保护范围加锁查询,从而阻止其他事务在范围内插入新记录。
意图识别有哪些分类方式,如何实现?
意图识别可以按标签数量、业务层级、开放程度、是否结合槽位和决策阶段分类。实现上要从标签体系、数据标注、模型方案、置信度治理和线上闭环五个层面设计,而不是只训练一个分类器。
DPO 训练中的正反馈样例如何构造?
DPO 的正反馈样例不是单独的好回答,而是偏好对里的 chosen answer。构造时要保证同一 prompt 下正样本相对负样本更符合事实、指令、风格、安全和业务目标,并通过人工或高可信信号过滤噪声。
多意图识别中如何选择单标签和多标签分类?
多意图识别选择单标签还是多标签,取决于业务动作是否互斥、用户一句话是否可能触发多个独立流程、标注是否稳定以及下游系统能否处理多结果。单标签更简单稳定,多标签表达能力更强但需要阈值、冲突消解和更复杂评估。
SFT 之后做 DPO,DPO 和 RLHF/PPO 有什么区别?
SFT 之后做 DPO,是先让模型学会基本任务格式和能力,再用偏好对调整回答倾向。DPO 直接用偏好数据优化策略与参考模型的概率比,RLHF/PPO 通常先训练奖励模型,再通过强化学习在线优化奖励,工程复杂度和稳定性差异很大。
RAG 在意图识别中有什么作用?
RAG 在意图识别中的作用,是把相似历史表达、标签定义、业务文档和动态规则检索出来,辅助模型缩小候选、消除歧义、识别长尾和处理新业务。它不是替代分类器,而是给分类决策提供可更新的外部证据。
vLLM 有哪些技术优势,为什么推理性能高?
vLLM 推理性能高,核心来自围绕大模型解码瓶颈做系统优化:PagedAttention 降低 KV cache 内存碎片并提升复用,连续批处理提高 GPU 利用率,再结合高效调度、前缀缓存和并行能力提高吞吐。
mask attention是如何实现的?
Mask attention 的核心是在计算 attention 权重前,对不允许关注的位置加上一个极小值,使这些位置经过 softmax 后权重接近 0。它常用于因果语言建模、padding 屏蔽、局部注意力和结构化可见性约束。
同题还出现在 1 个公司岗位
推荐系统工程上是怎么实现的?
推荐系统工程实现通常是召回、粗排、精排、重排、策略和反馈闭环的多阶段链路。面试中要讲清离线训练、实时特征、在线服务、实验平台和监控回流,而不是只列几个推荐算法名字。
Attention如何计算?
Attention 的核心是用 query 和 key 计算相关性权重,再用这些权重对 value 做加权求和。Transformer 中常见的是 scaled dot-product attention:softmax(QK^T / sqrt(dk))V,多头注意力则并行学习多组关系。
如何判断模型是否过拟合?
判断过拟合要看训练集表现和验证/测试集表现是否明显分离。典型现象是训练 loss 持续下降、训练指标很好,但验证指标停滞或变差。还要结合学习曲线、分桶表现、交叉验证和线上泛化来排除数据泄漏或分布漂移。
神经网络初始参数能不能全设成 0,为什么?
神经网络参数不能全部初始化为 0,因为同一层神经元会得到完全相同的梯度更新,无法打破对称性,多个神经元会学成同一个函数。偏置可以为 0,但权重需要随机或按 Xavier/He 等方法初始化。
L1 和 L2 正则化的区别是什么?
L1 和 L2 正则化都是限制模型复杂度、缓解过拟合的方法。L1 加的是参数绝对值和,容易产生稀疏权重;L2 加的是参数平方和,会平滑地压小权重,也常被称为权重衰减。
激活函数有哪些?
激活函数的作用是给神经网络引入非线性,常见包括 Sigmoid、Tanh、ReLU、Leaky ReLU、ELU、GELU、Softmax 和 Swish。回答要讲清各自范围、梯度特点、适用层和常见问题。
ReLU 是为了解决什么问题设计的?
ReLU 的设计目标是给神经网络引入简单高效的非线性,同时缓解 Sigmoid/Tanh 在深层网络中的梯度消失和计算饱和问题。回答要同时讲优点和死亡 ReLU 等代价。
0、1 分类问题应使用什么损失函数,为什么不能用 MSE?
0、1 分类通常使用二元交叉熵或逻辑损失,而不是 MSE。核心原因是分类建模的是伯努利概率,交叉熵梯度和概率解释更合适。
如何将 GAN 应用到检测分割中以提升性能?
把 GAN 用到检测分割中,核心是让生成器补充样本、域迁移或生成更难的视觉场景,再用检测分割任务损失和对抗损失共同约束,避免只追求图片逼真。
如何手推 MSE 的梯度并进行反向传播?
手推 MSE 梯度要从损失定义开始,说明对预测值的导数,再把这个误差信号沿链式法则传回模型参数,而不是只背一个公式。
Encoder 和 Decoder 中的 Attention 有什么区别?
Encoder 和 Decoder 中 Attention 的核心区别在于可见信息、mask 约束和信息来源不同:Encoder 做双向理解,Decoder 做自回归生成并可能交叉关注 Encoder 输出。
同公司岗位有 2 条面经记录
如何实现 NMS 的全过程,包括按 score 排序?
NMS 的流程是按置信度排序,依次保留最高分框,计算它与剩余框的 IoU,并删除重叠过高的候选框,直到候选框处理完。
如何缓解过拟合?
缓解过拟合要从数据、模型容量、正则化、训练策略和评估切片一起回答,核心是降低模型对训练集噪声和偶然模式的依赖。
同题还出现在 1 个公司岗位
只能买卖一次时,如何计算股票最大收益?
一次买卖股票最大收益的核心是维护历史最低买入价,并在每一天尝试把当天价格作为卖出价更新最大利润。
分类问题常用的评价指标有哪些?
分类指标不是一串名词,而是一套围绕混淆矩阵、阈值、样本分布、排序质量、概率校准和业务损失的评价体系。
风险社区检测中,Louvain 和 LPA 应该如何选择?
这道题考察图算法在风控社区检测里的取舍。回答不要只背 Louvain 和 LPA 定义,要结合风险图的边权、噪声、稳定性、可解释性和处置成本说明:高精度离线团伙发现更偏 Louvain,超大规模快速扩散或候选扩展可用 LPA。
推荐系统中特征生产、样本快照和线上实时特征如何保持一致?
这道题考察推荐系统特征工程化能力。回答要围绕同一套特征定义、同一时间点语义、同一版本治理和同一监控闭环展开,核心是防止训练样本看到线上拿不到的未来信息,或线上实时特征和离线训练特征口径不一致。
ESMM模型里,CVR和CTR任务共享Embedding层,这个在代码层面具体是怎么实现的?
ESMM 中 CTR 和 CVR 任务共享 Embedding 的代码实现,本质是同一批稀疏特征经过同一组 Embedding layer 查表,得到共享底层表示,再分别进入 CTR tower 和 CVR tower。回答要讲清共享参数、前向路径、loss 设计和训练样本空间。
同题还出现在 1 个公司岗位
OCR 输出为什么要保留 bbox 和 spatial layout,后续如何给多模态理解模型使用?
这道题考察 OCR 结果如何从纯文本升级为可供多模态理解使用的结构化表示。回答重点不是检测识别算法,而是 text、bbox、reading order、confidence 和视觉区域如何一起进入下游模型。
LLM 微调项目里新数据加入后离线评估掉点,应该如何排查数据、训练和评估口径?
这道题考察 LLM 微调项目的掉点诊断能力。回答重点不是背 SFT 或 LoRA 方法名,而是把新数据引入后的数据 pipeline diff、质量和格式漂移、分布混合比例、训练 schedule、评估集回归、指标切片、Recall/Precision 取舍和上线决策串成一套可执行排查流程。
对话摘要生成任务如何设计评估指标,并处理长度控制、角色呼应和数据增强?
这题考对话摘要生成的评估和训练细节,答案要同时覆盖内容覆盖、事实一致、角色归因、长度控制、ROUGE 局限和数据增强风险。
RAG Embedding 召回出现误判时,如何定位并改进?
这题考 RAG 中 embedding 召回误判的诊断和改进,回答要区分误召回与漏召回,并用标注集、近邻检查、负样本、混合检索、rerank 和阈值策略闭环优化。
同题还出现在 1 个公司岗位
PPO 和 GRPO 有什么区别,PPO 中的 Critic 模型如何训练?
这题考 PPO、GRPO 在大模型 RL 后训练中的优化框架差异,以及 PPO 里 Critic 如何用 rollout 回报学习价值估计。
同题还出现在 1 个公司岗位
RLHF/PPO 中为什么要用 KL 散度约束,过强或过弱会带来什么问题?
这题考 RLHF/PPO 中 KL 约束的作用,核心是限制策略偏离参考模型,平衡 reward 优化、语言质量、安全边界和训练稳定性。
大模型强化学习中 Reward 什么时候用规则,什么时候用奖励模型?
这题考大模型 RL 后训练中奖励信号的选型,重点是按可验证性、主观性、成本、覆盖范围和被投机风险决定用规则还是奖励模型。
大模型 RL 后训练中如何识别并缓解 reward hacking 和奖励坍缩?
这题考 RL 后训练的失效模式,回答重点是识别训练 reward 与真实质量背离,并用 reward 审计、约束、数据更新和独立评测缓解。
同题还出现在 2 个公司岗位
Agentic RL 项目中,如何判断 SFT 阶段已经可以进入 RL 后训练?
这题考 Agentic RL 的训练阶段判断,重点是 SFT 是否已经让模型具备稳定轨迹、工具协议、基础成功率和可评估 reward,再决定进入 RL。
Video-LLaMA 如何把视频、音频和语言模块连接成多模态理解模型?
这题考 Video-LLaMA 类视频多模态模型的模块连接方式,回答重点是视频帧编码、时间信息聚合、音频分支、投影对齐和语言模型生成。
LoRA 初始化和 rank 应如何选择,rank 过大或过小有什么影响?
这题考 LoRA 的低秩增量参数如何初始化和选 rank,重点是保持初始等价、控制容量成本,并用验证集判断欠拟合或过拟合。
BLIP-2 的两阶段训练流程和损失函数如何把视觉编码器接入语言模型?
这题考 BLIP-2 如何用两阶段训练把冻结视觉编码器接入冻结语言模型,回答重点是 Q-Former、图文对齐损失和语言建模损失的职责分工。
如何用代码实现 Multi-Head Cross-Attention,Q/K/V 的输入维度如何对齐?
这题考手写 Multi-Head Cross-Attention 的维度理解和实现顺序,回答重点是 Q 来自目标序列,K/V 来自条件序列,以及多头拆分、mask 和输出合并。
大模型基础训练阶段为什么不能直接用 SFT 代替预训练?
这题考基础预训练和 SFT 的目标差异,重点是预训练用海量多样语料学习通用能力,SFT 只是在已有底座上教指令格式和偏好行为。
CLIP 和 BEiT v3 在训练目标、输入建模和图文对齐方式上有什么区别?
这题考 CLIP 和 BEiT v3 的建模范式差异,回答重点是双塔对比学习、统一多模态建模、输入交互方式和适用任务取舍。
CLIP 的图文对比学习流程如何用伪代码表示?
这题考 CLIP 图文对比学习的训练流程,回答重点是 batch 内配对、图像/文本归一化向量、相似度矩阵、温度系数和对称交叉熵损失。
同题还出现在 1 个公司岗位
BEiT v3 相比 BEiT v2 的 embedding 设计有什么变化?
这题考 BEiT v3 相比 BEiT v2 在输入 embedding 和多模态建模上的变化,回答重点是从图像侧表示学习扩展到图像、文本和图文统一输入。
ViT 如何把 224x224x3 图像切成 patch 序列,sequence length 如何计算?
这题考 ViT 把图像切成 patch 后如何形成 token 序列,回答重点是 patch 数量、每个 patch 的展平维度、线性投影、位置编码和 CLS token。
同题还出现在 2 个公司岗位
Transformer 中绝对位置编码和相对位置编码如何实现,各自适合什么场景?
这题考 Transformer 位置信息注入方式,重点是绝对位置编码直接表示当前位置,相对位置编码在注意力中建模 token 间距离和方向。
同题还出现在 1 个公司岗位
BLIP 如何通过数据清洗和多任务损失提升图文训练数据质量?
这题考 BLIP 里数据 bootstrapping、噪声图文对清洗和多任务预训练目标的关系。回答要聚焦原始 BLIP,不要讲成 BLIP-2 的 Q-Former 两阶段训练。
多模态或大模型微调数据做质量过滤时,如何选择过滤模型和质量标准?
这题考数据质量治理,而不是问某家公司内部过滤器。回答要从规则、专用模型、跨模态一致性模型、LLM judge/reward model 和人工抽检的组合讲起。
同题还出现在 1 个公司岗位
Transformer FFN 为什么通常先升维再降维,这对表达能力和计算量有什么影响?
这题考 Transformer MLP/FFN 的基本机制:逐 token 的非线性变换、扩展中间维提升表达能力,再投回 hidden size 以便残差连接和层间堆叠。