跳到主要内容
T5 其他 海康威视

海康威视 AI Infra

海康威视 AI Infra 面试真题,涵盖推理优化、算子优化、高性能计算等方向

推理优化 算子优化 高性能计算

算子优化

  1. 什么是 CUDA 中的 bank conflict?如何避免?
  2. 如何实现 CUDA 版本的 Softmax?
  3. Online Softmax 与 FlashAttention 的核心思想分别是什么?

推理优化

  1. 大模型端侧部署面临哪些挑战?有哪些常用的优化手段?
  2. 模型导出时如何处理动态维度问题?
  3. 量化相关技术有哪些?各自的适用场景是什么?

高性能计算

  1. 多线程编程中 OpenMP 与 MPI 的区别和使用场景分别是什么?

工程实践

  1. ncnn 的交叉编译流程是怎样的?
  2. 对 ncnn 源码的了解程度如何?

项目经历

  1. 自我介绍与项目经历阐述。
  2. 对感知、规划、控制算法有哪些了解?