案例研究篇
本章节通过分析顶尖公司与产品的 AI 基础设施实践,提炼可复用的工程经验。
已上线主题
- OpenAI — 从 GPT 训练集群到 ChatGPT 推理服务的完整基础设施演化
- Anthropic — 宪法对齐、机制可解释性、Trainium/Colossus 异构算力与 prompt caching 推理工程
- Meta — 开放权重、OCP 硬件协同设计、RoCE/InfiniBand 双网络织物、SDC 治理与 >95% 有效训练时间、MTIA 自研硅
- Google — TPU 自研硅(MXU/SparseCore/3D-torus/OCS)、NSDI'24 双路径恢复(99.98% 可用率)、GSPMD/Pathways 自动并行、开放软件栈 + 闭源硬件
计划中主题
- Cursor
- Perplexity
一句话理解
最好的老师不是论文,而是那些在真实生产环境中 scale 到亿级用户的系统。
每个案例都会从设计动机 → 架构设计 → 源码实现 → 工程实践 → 生产落地五个维度进行拆解,并结合本手册其他主题(LLMOps、Agent、RAG、AI SRE、安全)的交叉视角,帮助读者把散落的知识点连成网络。