学习路线

本路线面向已经具备 Kubernetes / Linux 基础，希望成长为 AI Infrastructure 工程师的读者。

阶段一：夯实基础（4~8 周）

目标：建立 AI 基础设施所需的底层知识。

• 大模型从 0 到 1（已上线） — 用通俗易懂的方式走完数据 → Tokenizer → Transformer → 预训练 → 后训练 → 推理服务 → 优化加速的完整旅程
• Linux 系统与性能调优（已上线） — 从 Kernel/User Space、系统调用到 CFS 调度器、虚拟内存/TLB/HugePages/NUMA、VFS/I/O 调度、网络协议栈、cgroup v2/namespace，配合 CPU 可运行 Mini Demo，建立 AI Infra 的 OS 底盘直觉
• 存储系统（已上线） — 从块/文件/对象三种存储语义、一致性、复制与纠删码，到 DAS/NAS/SAN/对象存储/并行文件系统、Kubernetes PV/PVC/StorageClass/CSI、PyTorch Distributed Checkpoint，配合 CPU 可运行 Mini Demo，建立 AI 训练 checkpoint 与推理模型加载的存储直觉
• GPU 架构与 CUDA 基础（已上线） — 从 SIMT/Warp/SM 到 CUDA 编程模型，从 Fermi 到 Blackwell 架构演进，从 cuBLAS/NCCL 到 DCGM 生产监控
• 分布式系统基础（已上线） — 一致性、容错、通信、复制、共识、分布式事务、分布式锁、幂等、时钟与顺序

阶段二：掌握云原生（4~6 周）

目标：能够在 Kubernetes 上构建和运维平台。

• Kubernetes（已上线） — 声明式 API、控制循环、调度框架、GPU/Gang 调度、生产实践
• 容器运行时（已上线） — K8s 之下的执行层：namespace/cgroup/overlayfs、OCI 标准、containerd/runc 分层、镜像优化与供应链安全、沙箱运行时、惰性拉取
• Helm（已上线） — K8s 包管理器：Chart/values/template/Release 四要素、Tiller 移除与客户端渲染、三方合并 Patch、OCI 仓库、GitOps 部署
• Operator 模式（已上线） — 把领域运维知识编码成控制循环：CRD/Controller/Reconcile 四铁律、controller-runtime 架构、finalizer/owner/status/webhook、KubeRay/Training Operator/GPU Operator 源码对照
• CNI / CSI 深度（已上线） — Kubernetes 把网络与存储外包给插件的两根柱子：CNI 接口与插件链（bridge/host-local/IPAM/Flannel/Calico/Cilium/Multus/SR-IOV）、CSI Identity/Controller/Node 三面 gRPC、external-provisioner/attacher/resizer/snapshotter 侧车、NetworkPolicy 数据面、VolumeAttachment 一致性、RWO/ROX/RWX、生产排障与 AI 场景选型
• GPU 在 Kubernetes 上的调度（已上线） — 把 NVIDIA GPU 作为 K8s 一等资源：Device Plugin gRPC 协议、GPU Operator 组件编排、nvidia.com/gpu 资源模型、MIG/MPS/time-slicing、拓扑感知调度、Gang/队列/公平调度、多租户治理与生产排障

阶段三：AI 平台与 LLMOps（6~10 周）

目标：理解模型训练、推理、服务的完整链路。

• Ray（已上线） / MLflow（已上线） / KubeRay（已上线） / Airflow（已上线） — 分布式 AI 计算、ML 生命周期管理、K8s 上的 Ray 平台与工作流编排
• KServe（已上线） — Kubernetes 模型服务平台：InferenceService + ServingRuntime + InferenceGraph、协议统一、扩缩、金丝雀、多 runtime 编排
• Kubeflow（已上线） — Kubernetes 上的 ML 平台：Notebook + Pipelines + Katib + Training Operator + KServe + Central Dashboard，覆盖 ML 全生命周期
• 模型服务与推理优化
• vLLM（已上线）
• SGLang（已上线）
• TensorRT-LLM（已上线）
• Triton Inference Server（已上线）
• LLM Gateway（已上线）
• RL Post-Training 基础设施（已上线） — GRPO/PPO 算法工程化、Rollout/Train 分离架构、veRL/OpenRLHF 源码、Agentic RL、生产实践
• AI 编译器与 Kernel 生成（已上线） — torch.compile/Inductor 编译链路、Triton 语言与编译器、cuTile/CUTLASS、TileLang、Mirage megakernel，理解推理引擎之下的算子生成层
• 特征平台与训练数据基础设施（已上线） — 特征偏斜治理、point-in-time 正确性、离线/在线双存储、Feast/Hopsworks/Tecton 生态
• LLM 推理缓存与 KV Cache 管理（已上线） — KV 分层/迁移/复用，PD 分离与 Mooncake/LMCache/NIXL 生态
• 模型量化与压缩基础设施（已上线） — PTQ/QAT 算法体系、NVFP4/MXFP4 格式、llm-compressor/Quark 工具链
• 多模态与语音推理基础设施（已上线） — VLM 推理、实时语音链路、VAD/打断/双工调度与延迟预算
• 端侧与边缘推理基础设施（已上线） — llama.cpp/MLX/ExecuTorch/ONNX Runtime 生态、内存受限解码、异构算子调度、端云协同与隐私边界
• AI 集群网络（已上线） — scale-up/scale-out fabric、NVLink/UALink、IB/RoCE/UEC、集合通信流量工程

阶段四：Agent 与 RAG（4~6 周）

目标：理解大模型应用的基础设施需求。

• Agent Runtime（已上线）
• Memory（已上线）
• Multi-Agent（已上线）
• Reflection（已上线）
• MCP（已上线）
• Planning（已上线）
• Tool Use（已上线）
• Agent OS（已上线）
• Personal AI Agent（已上线）
• RAG（已上线）
• 向量数据库与 Embedding 基础设施（已上线） — HNSW/IVF/DiskANN 索引、Milvus/Qdrant/pgvector 系统、GPU 索引与 Embedding 服务
• GraphRAG 与知识图谱检索（已上线） — 图检索范式：实体-关系抽取、社区摘要、local/global/多跳查询
• GraphRAG 与评估体系

阶段五：AI SRE 与安全（持续）

目标：让 AI 系统在生产环境中稳定、安全、可观测。

• AI SRE（已上线）
• Benchmark + Evaluation（已上线） — Agent / LLM / RAG 的可复现评测框架：trace-based eval、benchmark 数据集、CI 评估门与生产回归检测
• 安全（已上线）
• AI 供应链与模型安全（已上线） — 模型工件/数据/Agent 工具链三条供应链线的威胁建模与 G1-G4 门禁：pickle 扫描、Sigstore 签名、MCP 完整性校验、沙箱与水印
• GPU 故障与大规模训练可靠性工程（已上线） — 万卡训练的可靠性账本：Llama 3 的 466 次中断、SDC 三态模型、checkpoint 间隔优化、冷/热/超热恢复路径与热备经济学
• OpenTelemetry 与可观测性
• SLO / Error Budget
• AIOps 与事件响应
• IAM、Secrets、Zero Trust
• 合规（SOC2、HIPAA、GDPR）

阶段六：案例研究（持续）

目标：从真实公司的工程实践中提炼可复用的设计原则。

• OpenAI 案例研究（已上线） — 训练/推理基础设施、模型安全与对齐、产品化工程经验
• Anthropic 案例研究（已上线） — 宪法对齐/RLAIF、机制可解释性、Trainium/Colossus 异构算力、prompt caching 与 RSP/ASL 治理
• Meta 案例研究（已上线） — 开放权重、OCP 硬件协同设计（Grand Teton/Catalina/MTIA）、RoCE/InfiniBand 双网络织物、SDC 治理与 >95% 有效训练时间、Llama Stack
• Google 案例研究（已上线） — TPU 自研硅（MXU/SparseCore/3D-torus/OCS）、NSDI'24 双路径恢复（99.98% 可用率）、GSPMD/Pathways 自动并行、Falcon 硬件传输、开放软件栈（JAX/XLA/MaxText）+ 闭源硬件
• DeepSeek 案例研究（已上线） — 算法-系统协同设计：DualPipe 流水线、细粒度专家并行、FP8 混合精度、MLA/DSA 注意力、3FS/DeepEP 开源栈，278.8 万 GPU 小时训练 V3
• xAI 案例研究（已上线） — Memphis Colossus：122 天 10 万卡单训练域、供电/液冷/网络 fabric、"速度即战略"的集群建设组织学
• Perplexity 案例研究（已上线） — 答案引擎推理经济学：模型路由、缓存、流式延迟与 Sonar 开源策略
• Cursor 案例研究（已上线） — AI 编程产品的基础设施纵深：Tab 补全延迟预算、speculative edits、云端 Agent 沙箱、4 亿次/天在线 RL 与订阅制推理经济学

推荐学习顺序

如果你时间有限，建议按以下优先级：

1. vLLM — 理解 LLM 推理的核心挑战
2. SGLang — 理解 LLM Program、RadixAttention 与结构化生成
3. TensorRT-LLM — 理解 NVIDIA 编译型推理引擎与生产部署
4. Kubernetes 与 GPU 调度 — 理解 AI 平台的底座
5. 容器运行时 — 理解 K8s 之下"把镜像变成进程"的那一层
6. Helm — 理解 K8s 包管理、Chart 模板、三方合并与 GitOps 部署
7. Operator 模式 — 理解 CRD + 控制循环、Reconcile 四铁律、finalizer/owner/status，以及 AI 平台（KubeRay/Training Operator/KServe）如何用它实现自管理
8. Ray — 理解分布式 AI 计算
9. KServe — 理解 Kubernetes 模型服务平台与 runtime 编排
10. Kubeflow — 理解 Kubernetes 上的 ML 全生命周期平台
11. MLflow — 理解开源 ML 生命周期平台：实验追踪、模型打包与 Model Registry 治理
12. KubeRay — 理解 Ray 官方 Kubernetes Operator：RayCluster / RayJob / RayService、自动扩缩容、GCS FT 与声明式升级
13. Airflow — 理解工作流编排平台：DAG / Operator / Scheduler / Executor / Metadata DB / Triggerer / XCom / Deferrable Operator
14. OpenTelemetry — 理解 AI 系统可观测性
15. LLM Gateway — 理解多供应商/多引擎的统一接入层
16. Agent Runtime — 理解 Agent 时代的执行容器与 ReAct 循环
17. Memory — 理解 Agent 的记忆系统与长期上下文管理
18. Multi-Agent — 理解多 Agent 协作、角色定义与协调调度
19. Reflection — 理解 Agent 自我反思、批判与质量提升闭环
20. MCP — 理解 Agent 协议、工具发现与跨模型能力复用
21. Planning — 理解 Agent 任务分解、计划表示与动态重规划
22. Tool Use — 理解 Agent 工具调用、Schema、解析、执行与可观测
23. Agent OS — 理解 Agent 运行时操作系统、进程调度、沙箱、Workspace 与多 Agent 治理
24. Personal AI Agent — 理解面向个人用户的智能体：个人数据连接、跨会话记忆、主动服务、常驻执行与隐私权限模型
25. RAG — 理解外部知识检索、向量索引、混合检索与检索增强生成
26. AI SRE — 理解 AI 系统可观测性、SLO、AIOps 与事故响应
27. 安全 — 理解 AI 系统身份、密钥、零信任、Guardrails、合规与事件响应
28. OpenAI 案例研究 — 通过 OpenAI 的演化理解训练/推理基础设施、安全对齐与产品化工程落地
29. Anthropic 案例研究 — 通过 Anthropic 理解宪法对齐、机制可解释性、异构算力、prompt caching 与 RSP/ASL 安全治理
30. Meta 案例研究 — 通过 Meta 理解开放权重、硬件协同设计、双网络织物、同步训练可靠性（SDC 治理/>95% 有效训练时间）与 MTIA 自研硅
31. Google 案例研究 — 通过 Google 理解 TPU 自研硅、OCS 可重配拓扑、NSDI'24 双路径恢复、GSPMD/Pathways 编译器自动并行与开放软件栈
32. AI 编译器与 Kernel 生成 — 理解 torch.compile/Inductor、Triton 语言、cuTile/CUTLASS 与 kernel 自动生成
33. 向量数据库与 Embedding 基础设施 — 理解 HNSW/DiskANN、向量数据库系统、GPU 索引与 Embedding 服务
34. DeepSeek 案例研究 — 通过 DeepSeek 理解算法-系统协同设计：DualPipe、FP8、MLA 与开源 Infra 栈
35. xAI 案例研究 — 通过 xAI 理解超集群建设：供电、液冷、单训练域网络与速度组织学
36. 特征平台与训练数据基础设施 — 理解特征生命周期：point-in-time 正确性、偏斜治理与离线/在线双存储
37. Perplexity 案例研究 — 通过 Perplexity 理解推理经济学：模型路由、缓存与流式延迟
38. LLM 推理缓存与 KV Cache 管理 — 理解 KV 分层、PD 分离传输与 prefix 复用
39. AI 集群网络 — 理解 scale-up/scale-out fabric 与 AI 流量工程
40. GraphRAG 与知识图谱检索 — 理解图索引、社区摘要与多跳推理检索
41. 模型量化与压缩基础设施 — 理解 PTQ/QAT、GPTQ/AWQ 与 NVFP4 工具链
42. 多模态与语音推理基础设施 — 理解 VLM 推理与实时语音链路的延迟预算工程
43. 端侧与边缘推理基础设施 — 理解端侧推理的三本账：带宽账、异构账、隐私账
44. Cursor 案例研究 — 通过 Cursor 理解"不拥有模型"的工程纵深：延迟预算、模型阶梯与在线 RL
45. AI 供应链与模型安全 — 理解模型工件、训练数据与 Agent 工具链的供应链威胁与门禁体系
46. GPU 故障与大规模训练可靠性工程 — 理解万卡训练的可靠性账本：故障统计、checkpoint 经济学与有效训练时间

面试准备

参考 面试指南。