11. 延伸阅读
官方文档
论文
- SGLang: Efficient Execution of Structured Language Model Programs — NeurIPS 2024
- XGrammar: Flexible and Efficient Structured Generation Engine for LLMs — NeurIPS 2024
- XGrammar-2: Efficient Dynamic Structured Generation Engine for Agentic LLMs — 2026
- DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models — DSA 稀疏注意力,2025-12
SGLang 团队博客(2025-2026)
- SGLang HiCache: Fast Hierarchical KV Caching — 2025-09
- SGLang Day-0 Support for DeepSeek-V3.2 with Sparse Attention — 2025-09
- Deploying DeepSeek with PD Disaggregation and Large-Scale Expert Parallelism on 96 H100 GPUs — 2025-05
- EPD Disaggregation: Elastic Encoder Scaling for Vision-Language Models — 2026-01
- SGLang Day-0 Support for Kimi K3 — 2026-07,Kimi K3(2.8T LatentMoE / 1M 上下文)day-0 支持
- DSpark: Confidence-Driven Speculative Decoding in SGLang — 2026-07,v0.5.16 新投机解码算法
结构化生成相关
对比与生产实践
- vLLM 官方文档
- Mooncake: A KVCache-centric Disaggregated Architecture
- Mooncake x SGLang HiCache System Design
- SGLang for RL Systems 官方文档
- LMSYS / SGLang 团队技术博客与演讲
社区资源
- SGLang GitHub Discussions
- SGLang Slack / Discord
- SGLang 中文社区讨论
相关章节
- vLLM 详解
- TensorRT-LLM 详解
- Triton Inference Server 详解
- LLM Gateway 详解
- LLM 推理缓存与 KV Cache 管理详解 — SGLang HiCache 分层缓存、Rust radix tree 与 PD 分离传输的基础设施视角,与本主题 RadixAttention 互为表里。
- 模型量化与压缩基础设施详解 — 量化支持矩阵、精度-性能权衡与压缩工具链,与 SGLang 的量化推理路径互补。
- LLMOps 概述
- 学习路线
- 面试指南
推荐学习路径
- 先读 SGLang 论文,理解 LLM Program 与 RadixAttention 的设计动机。
- 阅读官方文档的 Architecture 和 Sampling 部分。
- 阅读源码中的
python/sglang/srt/managers/scheduler.py和统一 Radix Tree 缓存实现(unified_radix_cache.py与rust/目录)。 - 结合生产实践文章,思考在自己的 Agent / 多轮场景中如何部署。