岗位题目
算法相关面试题第 4 页
模型训练时 advantage 或 loss 突然变成 0,可能是什么原因?
advantage 或 loss 突然变成 0 通常是训练信号、数据、mask、奖励归一化、数值稳定或日志统计出了问题,需要按链路逐层排查。
XGBoost 如何实现正则化和并行化?
XGBoost 的正则化体现在目标函数和树结构约束中,并行化主要体现在特征分裂候选和直方图统计等计算过程,而不是每棵树完全独立并行。
0、1 分类问题应使用什么损失函数,为什么不能用 MSE?
0、1 分类通常使用二元交叉熵或逻辑损失,而不是 MSE。核心原因是分类建模的是伯努利概率,交叉熵梯度和概率解释更合适。
如何合并 N 个有序数组并输出有序数组?
合并 N 个有序数组的经典做法是使用小顶堆维护每个数组当前最小元素,复杂度 O(M log N),其中 M 是总元素数。
大模型产出的向量或相似度可用于推荐链路的哪些环节?
大模型产出的向量或相似度可以用于推荐链路的召回、粗排、精排特征、重排和解释环节,但不能把整条链路都交给大模型直接排序。
Transformer 的主要结构和流程是什么?
Transformer 的主线是把序列输入转为 token embedding 和位置编码,经过多层 self-attention 与前馈网络建模上下文,最后输出上下文表示或逐 token 生成结果。
Transformer 相比之前的模型为什么有这么大的提升?
Transformer 的提升主要来自 self-attention 对长距离依赖的直接建模、更强并行训练能力、多头表示学习,以及可扩展到大数据和大模型规模的结构。
大模型使用的损失函数是什么?
大模型预训练最常见的损失函数是 next-token prediction 的交叉熵损失;对齐阶段还会出现 SFT 交叉熵、奖励模型损失、RLHF 或 DPO 这类偏好优化目标。
如何将 GAN 应用到检测分割中以提升性能?
把 GAN 用到检测分割中,核心是让生成器补充样本、域迁移或生成更难的视觉场景,再用检测分割任务损失和对抗损失共同约束,避免只追求图片逼真。
如何实现给用户推荐音乐的功能,需要哪些特征和算法?
音乐推荐设计要从用户、音乐、上下文和反馈特征出发,构建召回、排序、重排和反馈闭环,而不是只列协同过滤或深度模型。
模型在线训练和离线训练有什么区别?
在线训练和离线训练的区别在于数据更新频率、训练时效、系统复杂度和稳定性要求;推荐场景常用离线主模型加在线增量或实时特征的混合方案。
常见的核函数有哪些?
常见核函数包括线性核、多项式核、RBF 高斯核、Sigmoid 核等;回答重点是说明核函数在不显式升维的情况下计算高维特征空间内积。
如何手推 MSE 的梯度并进行反向传播?
手推 MSE 梯度要从损失定义开始,说明对预测值的导数,再把这个误差信号沿链式法则传回模型参数,而不是只背一个公式。
Encoder 和 Decoder 中的 Attention 有什么区别?
Encoder 和 Decoder 中 Attention 的核心区别在于可见信息、mask 约束和信息来源不同:Encoder 做双向理解,Decoder 做自回归生成并可能交叉关注 Encoder 输出。
同公司岗位有 2 条面经记录
目前主流的视频推荐和音乐推荐算法有哪些?
视频和音乐推荐常用算法可以按召回、排序和重排来回答:协同过滤、内容理解、向量召回、深度排序、多目标排序和多样性控制共同组成链路。
如何将 NLP 和推荐相互结合?
NLP 和推荐结合的关键是把文本理解能力转成推荐可用的用户、物料和上下文表示,用于召回、排序、冷启动和解释,而不是简单把两个系统拼起来。
常用的召回算法有哪些?
常用召回算法可以按规则、协同过滤、内容向量、模型向量、图关系和实时行为分组,核心目标是在可控延迟内从海量物料中取到足够好的候选。
如何实现 NMS 的全过程,包括按 score 排序?
NMS 的流程是按置信度排序,依次保留最高分框,计算它与剩余框的 IoU,并删除重叠过高的候选框,直到候选框处理完。
推荐系统如何解决马太效应?
推荐系统的马太效应是热门内容获得更多曝光后继续变热,长尾内容越来越难被发现,需要从召回、排序、重排、探索和评估偏差一起治理。
如何提高冷门商品的推荐效果?
提高冷门商品推荐效果,需要解决行为稀疏、曝光不足和模型偏热门的问题,常用内容特征、相似召回、探索流量、重排扶持和分层评估共同处理。
当模型出现 bad case 时,如何分析并改进?
模型 bad case 分析要先复现和分层定位,再判断是数据、特征、标签、模型、阈值还是业务分布问题,最后用可验证实验闭环改进。
RAG 可以做哪些优化?
RAG 优化要覆盖切分、索引、召回、重排、上下文组装、生成约束和评估闭环,不能只停留在换 embedding 模型。
如何缓解过拟合?
缓解过拟合要从数据、模型容量、正则化、训练策略和评估切片一起回答,核心是降低模型对训练集噪声和偶然模式的依赖。
同题还出现在 1 个公司岗位
什么是随机森林?
随机森林是用多棵决策树做 Bagging 集成的方法,通过样本随机和特征随机降低单棵树的方差,最终用投票或平均得到更稳的预测。
常见的文本特征提取器有哪些?
文本特征提取器可以从传统稀疏特征、统计特征、词向量、上下文 embedding 和任务特征几类回答,关键是说明适用场景和优缺点。
GAN 的训练要注意什么?
GAN 训练要重点关注生成器和判别器的平衡、模式崩溃、梯度不稳定、损失解释困难和样本质量评估,不能只看 loss 是否下降。
同题还出现在 1 个公司岗位
如何避免给用户重复推荐已看过的视频?
避免重复推荐已看过视频,要把曝光、播放、完播和负反馈记录接入召回、排序和重排链路,并处理跨设备、相似内容和时间窗口。
模型训练不收敛时怎么办?
模型训练不收敛要按数据、标签、特征、损失、优化器、学习率、初始化和梯度状态逐层排查,先定位现象再改参数。
遗传算法优化和梯度下降优化有什么区别?
遗传算法和梯度下降的区别在于优化信息、搜索方式和适用问题不同:前者是群体式全局启发搜索,后者依赖梯度做连续参数局部迭代。
只能买卖一次时,如何计算股票最大收益?
一次买卖股票最大收益的核心是维护历史最低买入价,并在每一天尝试把当天价格作为卖出价更新最大利润。
哈希冲突中,伪随机开放地址法如何插入和查找元素?
伪随机开放地址法用同一个哈希表数组解决冲突,通过可复现的探测序列寻找空位或目标元素,关键是插入和查找使用相同序列。
SMOTE 数据扩增算法的原理是什么?
SMOTE 是处理类别不平衡的过采样方法,它在少数类样本和近邻之间插值生成新样本,而不是简单复制少数类样本。
常见的加解密算法有哪些?
常见加解密算法要按对称加密、非对称加密、哈希摘要、消息认证和签名分类回答,并说明它们解决的问题不同。
Dijkstra 算法和 Prim 算法有什么区别?
Dijkstra 求单源最短路径,Prim 求最小生成树;两者都可用贪心和优先队列,但目标、状态含义和边权约束不同。
如何用 DP 解决高楼扔鸡蛋问题?
高楼扔鸡蛋问题可以用动态规划刻画鸡蛋数、楼层数和最坏次数,核心是在每个测试楼层上平衡碎和不碎两种结果。
重采样和欠采样会带来什么问题?
重采样和欠采样能缓解类别不平衡,但会改变训练分布,引入信息损失、过拟合、概率校准偏差和评估口径问题。
模型训练后需要保存哪些参数?
模型训练后的保存内容不只是权重文件,还包括结构、预处理、特征配置、归一化统计、优化器状态、版本信息和评估元数据。
如何实现 str2num,将字符串转换为整数或浮点数?
str2num 的重点是把符号、前导零、整数部分、小数部分、非法字符和溢出规则定义清楚,再用状态机或分段扫描实现。
为什么 SVM 有效,如何推导其原理?
SVM 有效的核心是最大间隔思想、结构风险最小化和核技巧;推导时从几何间隔、约束优化、拉格朗日对偶和支持向量讲起。
如何在给定字符串中输出出现频率最高的字母?
字符串最高频字母题的核心是一次遍历统计频次,再按题目规则处理并列、大小写、非字母字符和字符集范围。
分类问题常用的评价指标有哪些?
分类指标不是一串名词,而是一套围绕混淆矩阵、阈值、样本分布、排序质量、概率校准和业务损失的评价体系。
多模态模型中的模态对齐方法有哪些?
多模态对齐方法包括对比学习、投影到共享空间、跨注意力融合、指令微调、图文匹配损失和细粒度 token/patch 对齐。
如何反转单链表?
反转单链表的标准做法是迭代维护 prev、curr、next 三个指针,逐个改变 next 指向,最后返回 prev。
LSTM 的输入门、遗忘门和输出门是如何工作的?
LSTM 用遗忘门、输入门和输出门控制细胞状态的保留、写入和暴露,从而缓解普通 RNN 的长期依赖和梯度衰减问题。
同题还出现在 1 个公司岗位
决策树做分类和回归时有什么区别?
决策树做分类和回归时有什么区别?这道腾讯牛客题的关键是围绕“决策树分类与回归”讲清概念、机制、取舍和边界。分类树面向离散类别,常用信息增益、信息增益率或 Gini 指数选择划分;回归树面向连续值,常用平方误差、方差下降或 MAE 类目标选择切分。两者树结构相似,但叶子输出、损失度量和评估指标不同。
推荐系统中如何解决冷启动问题?
推荐系统中如何解决冷启动问题?这道腾讯牛客题的关键是围绕“推荐系统冷启动”讲清概念、机制、取舍和边界。推荐系统冷启动要先区分用户冷启动、物品冷启动和系统冷启动。用户没有行为时依赖注册画像、地理位置、设备、兴趣选择和热门兜底;物品没有交互时依赖内容特征、类目、文本/图像 embedding 和小流量探索;系统冷启动则要先靠规则、运营种子数据和快速反馈闭环建立初始样本。
GBDT 中的梯度提升如何理解?
GBDT 中的梯度提升如何理解?这道腾讯牛客题的关键是围绕“GBDT 梯度提升机制”讲清概念、机制、取舍和边界。GBDT 的梯度提升可以理解为在函数空间做梯度下降:当前模型 F_{m-1} 已经给出预测后,下一棵 CART 回归树 h_m 去拟合损失函数对当前预测的负梯度,也就是伪残差,最后按 F_m=F_{m-1}+eta*h_m 逐轮加到模型里。
样本类别不平衡应该如何处理?
样本类别不平衡应该如何处理?这道腾讯牛客题的关键是围绕“类别不平衡处理”讲清概念、机制、取舍和边界。类别不平衡处理要先判断业务目标是提高少数类召回、控制误报成本还是校准概率。常用方法包括重采样、类别权重、阈值调整、难例挖掘、合成样本和使用更合适的评估指标。