跳到主要内容
T0 大厂 阿里巴巴 实习 二面

阿里巴巴 云 AI Infra 实习 二面 (2)

阿里巴巴 AI Infra 实习二面面试真题,涵盖推理优化等方向

推理优化

基础知识

  1. vLLM 采用了哪些核心优化技术?请分别说明其原理。
  2. Logistic 回归的模型原理是什么?其损失函数如何推导?
  3. DeepSeek-MTP 是用于训练阶段还是推理阶段?请描述其具体工作过程。
  4. 面对一个时间序列数据集,如何利用机器学习方法提取关键特征,并结合规则方法完成建模?

开放题

  1. 在算力受限的条件下,如何利用大模型蒸馏出一个 3B 参数规模的小模型?
  2. 如何基于现有大模型,运用 Agent 相关技术训练一个能够编写金融领域代码的 Coder 模型?