知识点标签

模型训练面试题解析第 2 页

模型训练相关面试题解析,按真实面经题目沉淀核心机制、易错点和面试官追问。

230 道题 9 个岗位 21 个公司

模型训练相关面试题第 2 页

文本分类有哪些模型?

文本分类有哪些模型?这道腾讯牛客题的关键是围绕“文本分类模型选择”讲清概念、机制、取舍和边界。文本分类可以从传统机器学习到深度模型分层回答:朴素贝叶斯、LR/SVM 配 TF-IDF 适合轻量基线;TextCNN 捕捉局部 n-gram;RNN/LSTM 建模序列;Transformer/BERT 通过上下文表示处理语义和长距离依赖。

如果文本按词粒度处理可不可以用BN?

如果文本按词粒度处理可不可以用BN?这道腾讯牛客题的关键是围绕“NLP 场景中的 BatchNorm 与 LayerNorm”讲清概念、机制、取舍和边界。文本按词粒度处理时不是绝对不能用 BN,而是 BN 的统计维度和序列数据特性经常不匹配。BN 依赖 batch 维度统计均值方差,NLP 中 batch 大小、序列长度、padding mask 和 token 分布变化会让统计不稳定,因此 Transformer 更常用 LayerNorm。

MHA 中的 Dropout 和 MLP 中的 Dropout 有什么区别?

MHA 中的 Dropout 和 MLP 中的 Dropout 有什么区别?这道腾讯牛客题的关键是围绕“Transformer 中不同位置的 Dropout”讲清概念、机制、取舍和边界。MHA 中的 Dropout 和 MLP 中的 Dropout 目标都是正则化,但作用位置不同。MHA 里常见 Dropout 作用在 attention probabilities 或 attention output 上,影响 token 之间信息汇聚;MLP/FFN 中 Dropout 作用在隐藏层激活或输出上,影响逐 token 的非线性特征变换。

Adam 优化器的基本原理是什么?

Adam 优化器的基本原理是什么?这道腾讯牛客题的关键是围绕“Adam 优化器原理”讲清概念、机制、取舍和边界。Adam 是把 Momentum 和 RMSProp 思路结合起来的自适应优化器。它维护梯度一阶矩 m 和二阶矩 v 的指数滑动平均,经过偏差修正后按参数维度自适应调整更新步长。

LLM 微调项目里新数据加入后离线评估掉点,应该如何排查数据、训练和评估口径?

这道题考察 LLM 微调项目的掉点诊断能力。回答重点不是背 SFT 或 LoRA 方法名,而是把新数据引入后的数据 pipeline diff、质量和格式漂移、分布混合比例、训练 schedule、评估集回归、指标切片、Recall/Precision 取舍和上线决策串成一套可执行排查流程。

正在下载 Windows 安装包(.exe)

安装时若弹出「Windows 已保护你的电脑」

  1. 1

    浏览器右上角若提示「通常不常下载」

    在 Edge 或 Chrome 下载栏里点 「保留」 → 「仍然保留」,下载完成后双击打开安装包。

  2. 2

    双击安装时若弹出蓝框拦截

    点弹窗里的 「更多信息」,再点右下角的 「仍要运行」 即可正常安装。

等下载的时候,先领体验点数

网页上用手机号 10 秒登录即送体验点数;电脑版装好后用同一手机号登录即可,也可以直接在浏览器里用网页版。