Skip to content

11. 延伸阅读 ​

官方文档 ​

版本与动态 ​

性能分析 ​

eBPF / 动态追踪 ​

GPU 与 AI 场景的 Linux 优化 ​

相关主题 ​

主题链接与本章的关系
容器运行时容器运行时namespace/cgroup/overlayfs 的上层应用
KubernetesKubernetesK8s 资源限制、QoS 最终通过 Linux cgroup 生效
GPU 架构与 CUDA 基础GPU 架构与 CUDA 基础GPU 驱动、CUDA Runtime 依赖 Linux 的设备文件和模块
AI SREAI SRECPU/memory/I/O/network 指标都来自 Linux 内核
RayRayRay worker 进程和对象存储依赖 Linux 进程调度和 I/O
vLLMvLLM推理延迟和吞吐受 Linux 调度、内存、网络影响
LLM 推理缓存与 KV Cache 管理KV CacheKV Cache CPU offload 与分层存储直接依赖 Linux 内存管理、page cache 与 swap

推荐学习路径 ​

  1. 先读完本章 11 节,建立 Linux 全景;
  2. 动手跑 Mini Demo,理解 CFS、LRU、I/O 调度、cgroup;
  3. 在真实服务器上练习 top、vmstat、iostat、mpstat、perf、bpftrace;
  4. 结合容器运行时和 Kubernetes 主题,理解 cgroup/namespace 的上层抽象;
  5. 遇到真实性能问题时,按“先观测、再调优”的方法论逐步深入。

一句话总结 ​

Linux 内核文档和 Brendan Gregg 的工具书是 AI Infra 工程师的常备参考书;理解了机制,工具只是放大器。

Released under CC-BY-SA-4.0 License.