贝壳 AI Infra

大模型微调与训练

1. LoRA 微调的基本原理
2. LoRA 中两个低秩矩阵的初始化方式，为什么不能将 A 矩阵初始化为零？
3. P-Tuning v2 的实现方式及其与前代方法的区别
4. 梳理 LLM 预训练与后训练（Post-Training）各自的目标与内容
5. 强化学习中 GRPO 的基本流程
6. 奖励函数的设计与评估
7. 如何使用 LLM 作为评判者（LLM as a Judge）？

推理与检索

8. Tokenizer 的优化方法有哪些？
9. TF-IDF 验证的具体作用
10. RAG（检索增强生成）的实现流程
11. 向量检索的常见方法与技术选型

量化

12. 量化的基本原理与具体操作流程

编程题

13. 字符串转换整数（LeetCode 8）