模块四：推理优化

理解 LLM 自回归生成的 Prefill/Decode 两阶段、KV Cache 机制和推理关键性能指标

掌握 PagedAttention、Continuous Batching、Prefix Cache、Chunked Prefill 与 Attention 后端及图优化五大推理引擎核心技术

深入 vLLM 的整体架构、V1 引擎设计、调度器源码与关键配置调优，并横向对比 SGLang、TensorRT-LLM

掌握 W8A8(SmoothQuant)、INT4(GPTQ/AWQ)、KV Cache 量化和 FP8 量化的原理与选型决策

理解投机解码的核心原理（Draft + Verify）、Self-Draft 方案（Medusa/EAGLE-2）及其收益边界与限制

掌握推理场景下的张量并行、流水线并行、数据并行与专家并行，以及基于 Ray 的多节点部署

理解 P/D 混合 Batching 的问题、DistServe/Splitwise 等解耦方案、KV Cache 传输、Goodput 与 SLO 感知调度

掌握 vLLM 的结构化输出、Tool Calling、Multi-LoRA、多模态推理与采样解码算法等生产落地能力

建立完整的推理性能指标体系，掌握 vllm bench、GenAI-Perf 等压测工具和性能分析工具，制定性能回归门禁

掌握 vLLM 推理服务的容器化与 Kubernetes 部署、可观测性、自动扩缩容、负载均衡与容量规划

掌握推理优化选型决策树、技术叠加注意事项，完成从需求分析到上线监控的端到端 vLLM 部署实战