跳到主要内容
T1 大厂/独角兽 拼多多

拼多多 AI Infra

拼多多 AI Infra 面试真题，涵盖推理优化、算子优化等方向

推理优化 算子优化

以下为拼多多 AI Infra 面试考察内容。

基础知识

  1. Transformer 相较于 MLP 的核心优势
  2. 分别说明 MHA、GQA 和 MLA 的设计思路与差异
  3. 算法研究与 Infra 工程各自的工作重点有何不同
  4. PagedAttention 的设计原理与工作方式
  5. Triton 与 CUDA 在算子开发中的主要区别

算子与训练优化

  1. 模型训练过程中如何优化访存效率
  2. 是否具备算子开发与优化经验，请举例说明
  3. 针对 KL 散度算子做了哪些具体优化

编程题

  1. 手写 Multi-Head Attention（MHA）实现
  2. C++ 编程题