跳到主要内容
T0 大厂 百度 一面

百度 AI Infra 一面 (1)

百度 AI Infra 一面面试真题，涵盖推理优化等方向

推理优化

项目经历

  1. 围绕项目进行深入提问

基础知识

  1. 阐述 Attention 机制的原理，并介绍近期关注的模型所采用的注意力机制
  2. QKV 中 K 的作用是什么？能否省略 K 直接使用 V？
  3. 对比 BatchNorm、LayerNorm 与 RMSNorm 的区别
  4. 常见的位置编码方式有哪些？各自的特点
  5. 介绍强化学习中的 PPO、DPO、GRPO 算法
  6. 为何当前 decoder-only 架构比 encoder-decoder 架构更为流行？