跳到主要内容
综合面经

AI Infra 综合面经题库 (5)

AI Infra 面试真题，涵盖训练优化、高性能计算等方向

训练优化 高性能计算

项目经历

  1. 项目深入考察

基础知识

  1. 请解释 Python 全局解释器锁（GIL）的作用及其对多线程的影响
  2. Python 中不同进程之间有哪些 IPC（进程间通信）方式？
  3. All-Reduce 的通信开销如何计算？请给出具体推导过程
  4. tensor.view 与 tensor.contiguous 的区别与联系是什么？
  5. 张量并行中先按列切分与先按行切分有何区别？

编程题

  1. 实现数值的整数次幂运算
  2. 实现 Graph Fusion 算法