岗位题目
算法相关面试题第 8 页
大模型基础训练阶段为什么不能直接用 SFT 代替预训练？
这题考基础预训练和 SFT 的目标差异，重点是预训练用海量多样语料学习通用能力，SFT 只是在已有底座上教指令格式和偏好行为。
CLIP 和 BEiT v3 在训练目标、输入建模和图文对齐方式上有什么区别？
这题考 CLIP 和 BEiT v3 的建模范式差异，回答重点是双塔对比学习、统一多模态建模、输入交互方式和适用任务取舍。
CLIP 的图文对比学习流程如何用伪代码表示？
这题考 CLIP 图文对比学习的训练流程，回答重点是 batch 内配对、图像/文本归一化向量、相似度矩阵、温度系数和对称交叉熵损失。
同题还出现在 1 个公司岗位
BEiT v3 相比 BEiT v2 的 embedding 设计有什么变化？
这题考 BEiT v3 相比 BEiT v2 在输入 embedding 和多模态建模上的变化，回答重点是从图像侧表示学习扩展到图像、文本和图文统一输入。
ViT 如何把 224x224x3 图像切成 patch 序列，sequence length 如何计算？
这题考 ViT 把图像切成 patch 后如何形成 token 序列，回答重点是 patch 数量、每个 patch 的展平维度、线性投影、位置编码和 CLS token。
同题还出现在 2 个公司岗位
Transformer 中绝对位置编码和相对位置编码如何实现，各自适合什么场景？
这题考 Transformer 位置信息注入方式，重点是绝对位置编码直接表示当前位置，相对位置编码在注意力中建模 token 间距离和方向。
同题还出现在 1 个公司岗位
给定输入 shape 为 (b, s, h)，如何估算 Multi-Head Attention 的计算量？
这题考给定输入 shape 为 (b, s, h) 时如何估算 MHA 计算量，回答重点是 QKV 投影、注意力矩阵、加权求和和输出投影，其中长序列瓶颈来自 O(b s^2 h)。
FlashAttention 的核心原理是什么，为什么能降低长序列 attention 的显存和 IO 开销？
这题考 FlashAttention 的 IO-aware 原理，回答重点是它不改变标准 attention 数学结果，而是通过分块、在线 softmax 和重计算减少显存读写。
同题还出现在 1 个公司岗位
为什么 RMSNorm 在大模型中比 LayerNorm 更常见？
这题考 RMSNorm 为什么在大模型中常见，回答重点是它去掉均值中心化，只按均方根做尺度归一化，计算更简单且通常足够稳定。
如何手写 Beam Search，并处理候选扩展、剪枝和停止条件？
这题考如何手写 Beam Search，回答重点是维护 beam 候选、逐步扩展、按累计分数 top-k 剪枝、处理 EOS 停止并返回最优序列。
分布式 MoE 中 Gate 网络如何完成路由通信，容易出现哪些通信瓶颈？
这题考分布式 MoE 的真实执行链路，重点不是只说 Gate 选专家，而是讲清 token 路由、all-to-all dispatch、专家计算、结果回传以及负载不均带来的通信瓶颈。
当 MoE 专家数量增至上千时，如何优化路由决策延迟？
这题考 MoE 专家规模扩大后的路由扩展性，回答要把 router 计算、top-k 选择、候选专家缩小、设备映射和 dispatch 准备放在一条低延迟链路里分析。
MoE 专家数量远超过 GPU 数量时，专家调度和放置策略如何设计？
这题考专家并行的资源放置和运行时调度，回答要围绕专家驻留、冷热专家、token 分桶、负载均衡、通信拓扑和训练推理差异展开。
Soft MoE 和 Hard MoE 有什么区别，为什么工程上更常见 Hard MoE？
这题考 MoE 路由形式和工程取舍，重点是区分软混合的平滑训练优势与硬路由的稀疏计算优势，并解释为什么大模型部署更偏向 Hard MoE。
BLIP 如何通过数据清洗和多任务损失提升图文训练数据质量？
这题考 BLIP 里数据 bootstrapping、噪声图文对清洗和多任务预训练目标的关系。回答要聚焦原始 BLIP，不要讲成 BLIP-2 的 Q-Former 两阶段训练。
多模态或大模型微调数据做质量过滤时，如何选择过滤模型和质量标准？
这题考数据质量治理，而不是问某家公司内部过滤器。回答要从规则、专用模型、跨模态一致性模型、LLM judge/reward model 和人工抽检的组合讲起。
同题还出现在 1 个公司岗位
Transformer FFN 为什么通常先升维再降维，这对表达能力和计算量有什么影响？
这题考 Transformer MLP/FFN 的基本机制：逐 token 的非线性变换、扩展中间维提升表达能力，再投回 hidden size 以便残差连接和层间堆叠。
训练长文本翻译模型时，数据集应如何构建以保证上下文一致性和译文质量？
这题考开放场景下的 document-level translation 数据构建。回答重点是文档级平行语料、分段对齐、上下文窗口、术语一致性、质量过滤和长文评估。
训练 Qwen 这类大语言模型时，训练数据集如何设计才能兼顾质量、多样性和覆盖度？
这题考大语言模型训练数据体系设计，核心是把数据质量、多样性、覆盖度和评测闭环放在同一套可度量的配比与治理流程里，而不是简单说多收集数据或多做清洗。
同公司岗位有 2 条面经记录
Qwen 这类图文多模态大模型接入图像理解时，视觉编码、图文对齐和 token 成本有哪些技术难点？
这题考图文多模态大模型接入图像理解的关键工程和算法难点，重点是视觉特征如何进入语言模型、图文语义如何对齐，以及视觉 token 成本如何在效果和延迟之间取舍。
Qwen 这类大模型如何做压缩和蒸馏，评估时应关注哪些效果损失？
这题考大模型压缩与蒸馏的端到端方法论，关键是同时说明模型怎么变小、能力怎么迁移、成本怎么下降，以及哪些能力和安全边界最容易损失。
训练 Qwen 这类大模型时，分布式训练的通信瓶颈如何优化？
这题考大模型训练中的通信瓶颈定位与优化，重点是理解数据并行、张量并行、流水线并行和 ZeRO/FSDP 等策略如何产生不同通信模式，并用 profiling 指标做取舍。
评估 Qwen 这类大模型的泛化能力和鲁棒性时，评测集与切片指标应如何设计？
这题考大模型评测体系设计，核心是把泛化和鲁棒性定义成可切片、可统计、可回归的问题，避免只用一个公开 benchmark 总分判断模型好坏。
3D 语义分割评测中，mIoU 与 Chamfer Distance 分别衡量什么，什么时候该用哪个？
这题考候选人能否把 3D 语义标签质量和几何形状质量分开评估：mIoU 是分割主指标，Chamfer Distance 更适合几何重建、补全或对齐质量。
PPO 后训练中，GAE 的 lambda 参数如何影响优势估计的偏差和方差？
这题考 PPO 后训练里优势估计的稳定性来源：GAE lambda 通过控制 TD 残差的有效累积长度，在低方差高偏差和低偏差高方差之间取舍。
高风险在线环境中的 Agent 异常管控体系应如何设计，覆盖权限分级、执行隔离、熔断止损和审计追踪？
这题考的是高风险在线 Agent 的工程治理能力，重点不是说模型更聪明或加人工确认，而是把权限、工具、执行环境、熔断止损、可观测性和审计恢复设计成一套闭环。
BLIP 在图文理解和生成任务中如何组织视觉编码、文本编码和跨模态学习目标？
这题考 BLIP 作为图文预训练框架的整体理解：视觉编码器提取图像 token，文本模块在编码和解码模式间复用，并通过对比、匹配和语言建模目标同时支持理解与生成。
AIGC 图像生成中 GAN 和 Diffusion Model 的训练目标、生成过程和优劣势有什么区别？
这题考的是能否从训练目标、推理路径、质量多样性、稳定性、可控性和成本把 GAN 与 Diffusion Model 讲成两类生成范式，而不是只背“GAN 快、Diffusion 好”。
Diffusion 模型常见采样方法 DDIM、DPM++、LCM 和 Turbo 的核心思路与取舍是什么？
这题考的是能否把 Diffusion 采样讲成从多步去噪到数值求解、再到蒸馏加速的质量-速度取舍，而不是把 DDIM、DPM++、LCM、Turbo 只当成模型菜单。
SDXL 相比 Stable Diffusion 主要改进了哪些模块，这些改动分别解决什么生成质量问题？
这题考的是能否把 SDXL 相比 Stable Diffusion 的改进拆到模型容量、文本条件、分辨率训练、尺寸条件、refiner 和数据训练策略，并说明每一项在解决什么生成质量问题。
Sora 或 Diffusion 3 这类生成模型要实现图像/视频中的精准文字生成，训练和评估上要解决哪些问题？
这题考的是能否把图像/视频中文字生成当作数据、条件控制、分辨率、OCR/字形监督、时序一致性和评估闭环问题来分析，同时避免臆造 Sora 或 Diffusion 3 的闭源内部实现。
做人脸 AIGC 反欺诈时，如何利用 GAN、Stable Diffusion 原理理解伪造样本生成和检测思路？
这题考的是能否把 GAN、Stable Diffusion 的生成机制转成反欺诈检测思路：既要懂伪造样本怎么来，也要能从人脸一致性、活体线索、频域纹理、阈值和对抗更新讲出可落地的检测闭环。
Stable Diffusion 为什么使用 VAE 的 latent space，而不是直接在像素空间做扩散生成？
这题考 Stable Diffusion 的 latent diffusion 设计取舍：VAE 把高维像素压到较低维潜空间，让扩散模型更省算力，同时保留足够语义和空间结构，但会引入重建损失、细节上限和 latent 分布约束。
3D Gaussian Splatting 重建中的主要误差来源有哪些，如何从相机位姿、点云初始化和优化过程定位？
这题把“高斯重建”明确放在高斯重建 / 3D Gaussian Splatting 类重建语境下，重点考误差归因能力：相机、初始化、可见性、材质、Gaussian 参数优化和评估调试都可能成为重建误差来源。
MVS 点云采样和 NeRF 采样在 3D 重建中各有什么优势和局限，如何按场景选择？
这题考的是 3D 重建方法取舍：MVS 更偏显式几何和多视图匹配点云，NeRF 更偏沿射线做体渲染采样和隐式辐射场优化，选择要看视角密度、纹理、材质、速度、输出形态和下游需求。
如何用 PyTorch/CUDA 思路实现四线性插值，说明索引、权重计算和边界处理伪代码？
这题考实现思路而不是背库函数：先声明把“四线性插值”按 4D/quadrilinear interpolation 理解，即 4 个连续维度上各取 floor/ceil 共 16 个邻居，再讲索引映射、权重乘积、边界策略、CUDA 并行和反向传播验证。
StyleGAN 相比普通 GAN 做了哪些结构改进，mapping network、style modulation / AdaIN、噪声注入等分别解决什么问题？
这题考的是能否从生成器结构角度解释 StyleGAN：它把潜变量先映射到更可解耦的中间空间，再用逐层风格调制控制语义尺度，用噪声注入补充随机细节。
CycleGAN 如何用无配对数据做图像风格迁移，循环一致性损失为什么关键？
这题考的是能否说明 CycleGAN 为什么不需要成对样本：它用两个方向的生成器和判别器匹配目标域分布，再用循环一致性约束保留原图内容，避免任意映射。
Faster R-CNN 相比 R-CNN / Fast R-CNN 改进了什么，RPN 为什么能让目标检测更快？
这题考的是两阶段检测器的演进逻辑：R-CNN 慢在每个候选框重复跑 CNN，Fast R-CNN 共享卷积但仍依赖外部候选框，Faster R-CNN 用 RPN 在共享特征上生成候选框从而端到端加速。
Transformer 和 CNN 的核心区别是什么，在视觉任务中如何从局部归纳偏置、全局建模、数据规模和计算成本做选择？
这题考的是能否把 CNN 和 Transformer 的差异讲到建模假设与工程选择：CNN 强局部归纳偏置、参数共享和高效滑动计算，Transformer 强全局关系建模和可扩展表征但更依赖数据与算力。
多头注意力相比单头注意力有什么优势，各个 head 的输出如何拼接并通过输出投影融合？
这题考多头注意力的表示机制和实现细节，重点是说明多个 head 在不同子空间独立做注意力，输出先按特征维拼接，再由输出投影学习跨 head 融合。
STFT 中常见窗函数（矩形、Hann、Hamming、Blackman）如何实现，它们如何影响主瓣宽度、旁瓣抑制、频谱泄漏和时频分辨率？
这题考 STFT 加窗的频谱分析基础：窗函数通过截断和加权每一帧信号，改变主瓣宽度、旁瓣高度和泄漏程度，从而影响频率分辨率、动态范围和重构稳定性。
端到端语音增强模型为什么可以直接在时域建模，相比基于 STFT/频域掩码的方法有哪些优势、代价和适用场景？
这题考语音增强建模路线取舍：时域端到端模型直接学习带噪波形到干净波形的映射，优势是联合学习分析基和相位细节，代价是训练、解释、延迟和泛化边界更难控制。
语音增强模型常用哪些损失函数，时域损失、频域损失、感知指标和多任务损失应如何取舍？
这题考语音增强目标函数设计：时域损失约束波形和尺度，频域损失约束谱结构，感知或识别相关损失对齐用户体验，多任务损失则要防止辅助目标压过主目标。
评估实时语音模型复杂度时，参数量、FLOPs/MACs、实时率 RTF、端到端延迟、内存和功耗分别怎么看？
这题考实时语音模型的工程评估口径：参数量看存储和权重内存，FLOPs/MACs 看理论计算，RTF 看吞吐，端到端延迟看交互体验，内存和功耗决定能否在目标设备稳定运行。
音频模型从 QAT 量化感知训练到板端部署的完整流程是什么，遇到算子不支持、精度回退或性能不达标时如何排查？
这题考的是能否把 QAT 从训练技巧讲成完整工程闭环：先确定板端约束和浮点基线，再做 fake quant 训练、图转换、算子适配、板端对齐、精度回归和性能功耗压测。
音频端侧模型做训练后量化（PTQ）时如何实现，校准集的分布、数量和场景覆盖为什么会影响最终精度？
这题考的是 PTQ 的本质：用少量代表性样本估计激活动态范围并固化量化参数；校准集分布越偏、数量越少、场景覆盖越窄，越容易导致裁剪、分辨率浪费和真实场景精度下降。
音频端侧模型为什么常选 INT8 量化，如何在速度、内存、硬件算子支持和精度损失之间权衡？
这题的核心不是喊 INT8 更快，而是解释 INT8 为什么通常是端侧部署的平衡点：显著降内存和带宽、硬件支持成熟、速度收益可观，同时精度损失通常能用 PTQ/QAT 和混合精度控制。