字节跳动 AI Infra 校招 (1)

推理优化

1. 大模型推理加速的常见方法有哪些？
2. 模型压缩与量化技术有哪些？量化的主要优势体现在什么方面？
3. 权重量化、激活值量化和 KV Cache 量化分别带来哪些收益？
4. KV Cache 的工作原理是什么？PagedAttention 为什么能提升效果？
5. Prefix Cache 的机制是什么？适用于哪些场景？
6. 构建一个 AI Agent 应用，大致需要包含哪些核心模块？

项目经历

7. 请深入介绍你的项目经历。

编程题

8. 一个环上有 10 个节点（编号 0-9），从节点 0 出发，每步可沿顺时针或逆时针移动一个节点，求经过 n 步后回到节点 0 的不同走法总数。