真实公司面经题目

面经题库第 23 页

面试大师面经题库按公司、岗位和知识点整理真实面试题,每道题提供图解、60 秒回答、追问路径和易错点。 第 23 页继续收录同一分类下的真实面经题。

第 23 页面试题

筛选题目 公司、岗位、知识点

公司

公司岗位

岗位

标签

手写 CUDA All-Reduce/归约 kernel 时,如何设计线程内与 block 内归约,并说明 block 间同步和跨 GPU AllReduce 通常为什么需要多 kernel、cooperative groups 或 NCCL?

这题要先澄清 All-Reduce 在面试手写题里的边界:单 GPU 内通常先写归约 kernel,再解释 block 间同步为什么不能靠普通 __syncthreads 解决;真正跨 GPU AllReduce 属于通信 collective,通常交给 NCCL 或多阶段通信算法。