公司题库

字节跳动面经题库第 5 页

294 道题 12 个岗位 158 个标签

字节跳动相关面试题第 5 页

热搜应展示 10 条但页面只展示 9 条时,测试开发应如何定位前端、接口、排序和过滤链路问题?

这题考端到端定位能力。答案不能停留在“前端或后端都有可能”,而要说明如何固定复现条件,逐层核对接口响应、过滤去重、排序补位、客户端解析、渲染和日志,最终把缺失的一条定位到具体链路和可验证证据。

Prompt 优化模块的 A/B 测试方案如何设计?

Prompt 优化模块的 A/B 测试考察的不是简单会不会分流,而是能否把生成式能力放到真实业务链路中评估。高质量回答需要同时讲清实验目标、用户随机化、指标体系、统计检验、版本控制、冷启动影响、离线评测和线上实验的衔接,以及异常情况下的灰度和回滚机制。

同题还出现在 1 个公司岗位

Lora的原理能简单讲讲吗?

LoRA 是一种参数高效微调方法:不直接改动大模型原有权重,而是在关键线性层旁边增加一个低秩增量分支,用少量可训练参数学习任务差异。它的核心假设是:下游任务需要的权重变化 ΔW 往往不需要满秩矩阵表达,可以用两个小矩阵 B 和 A 的乘积近似,即 ΔW = BA。训练时冻结基座模型,只训练 A、B;推理时可以把 ΔW 合并回原权重,几乎不增加推理结构复杂度。

同题还出现在 1 个公司岗位

VikingDB 这类向量数据库如何设计核心链路,向量写入、ANN 索引、元数据过滤和查询召回如何协同?

这道题考察对向量数据库核心链路的系统设计能力,而不是背某个产品未公开实现。回答要从写入、向量化、分片、持久化、ANN 索引构建、增量更新、元数据过滤、查询召回、重排和运维指标串起来,说明向量、原始文档、元数据和索引如何保持一致。关键是讲清近似召回与过滤条件的协同:先过滤、后过滤、混合过滤各有什么代价;写入与索引的实时性、删除更新、分布式扩展、一致性和评估指标如何设计。

如何根据模型参数量、训练 token 数、FLOPs、GPU 数量和硬件利用率估算 LLM 训练时间?

这道题考察能否把 LLM 训练时间从经验判断转成可计算的工程估算。核心公式是总训练 FLOPs 除以集群有效算力:dense decoder-only 模型可用约 6 × 参数量 × token 数估算前向加反向训练 FLOPs,再除以 GPU 数、单卡峰值 FLOPs 和硬件利用率或 MFU。好的回答还要说明单位换算、序列长度和 attention 开销、MoE active 参数、数据并行扩展效率、checkpoint/eval/restart 等 wall-clock 修正因素。

LLM 训练过程中应该监控哪些指标,如何用 loss、梯度、吞吐、显存、GPU 利用率、checkpoint 和评测集发现异常?

这道题考察 LLM 训练监控体系,而不是只问 loss 曲线。完整回答要覆盖模型质量、数值稳定性、吞吐性能、资源利用、数据管道、checkpoint 可靠性和周期评测。更重要的是说明如何用这些指标定位异常:loss spike 可能来自坏数据或学习率问题,梯度爆炸会伴随 grad norm 和 NaN,吞吐下降可能来自 dataloader、通信或 straggler,显存增长可能是泄漏或碎片,评测集退化可能暴露过拟合、数据污染或训练分布偏移。

LLM 预训练数据清洗中,如何结合质量模型、PPL、去重和领域规则过滤更适合模型学习的数据?

这题考的是预训练数据治理的系统性判断:不能只说按 PPL 阈值删除,也不能只依赖一个质量分类器,而要把数据规范化、质量打分、PPL 异常检测、重复样本压制、领域规则、分布保留和下游验证串成闭环,目标是在降低噪声和污染的同时保留对模型能力真正有贡献的多样知识。

LLM 预训练或 SFT 的数据配比如何量化评估?如何用实验、领域切片和评测指标判断一个 mixture 是否更好?

这题考的是把数据配比从经验拍脑袋变成可实验、可度量、可解释的优化问题。好的回答应覆盖目标能力定义、候选 mixture 设计、token 级采样权重、短程代理实验、领域切片评测、统计显著性、负迁移排查和 Pareto 取舍,而不是只说多放高质量数据或按业务重要性调比例。

大模型推理变慢时,如何从序列长度、batch、KV Cache、量化、FlashAttention 和 GPU 资源排查?

这题考 LLM 推理性能诊断闭环。高质量回答应先定义慢在哪里,再拆分队列、prefill、decode、KV Cache、batch 调度、attention kernel、量化、GPU 利用率和服务链路,用指标定位瓶颈,而不是一上来堆优化名词。

同题还出现在 1 个公司岗位