延伸阅读
本章汇总 OpenAI 相关的权威来源、官方博客、论文、演讲与本手册交叉引用。
官方来源
- OpenAI Blog — 模型发布、产品更新、工程实践。
- OpenAI Research — 论文与技术报告。
- OpenAI API Documentation — API 参考与最佳实践。
- OpenAI Latency Optimization Guide — 官方推理延迟优化七原则。
- OpenAI Preparedness Framework (Beta) — 前沿风险治理框架。
- GPT-4o System Card — GPT-4o 安全评估与红队报告。
Microsoft / Azure 合作
- Azure previews powerful and scalable VM series for generative AI — ND H100 v5 与 OpenAI co-design。
- How Microsoft’s bet on Azure unlocked an AI revolution — Microsoft-OpenAI 合作深度报道。
- NVIDIA Technical Blog: What Runs ChatGPT? — Mark Russinovich 讲解 Azure AI 超级计算机。
论文
- Lewis et al. 2020 — Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (NeurIPS 2020) — RAG 奠基论文。
- Brown et al. 2020 — Language Models are Few-Shot Learners (NeurIPS 2020) — GPT-3。
- OpenAI 2023 — GPT-4 Technical Report — GPT-4 能力与安全概述。
- OpenAI 2024 — GPT-4o System Card — 多模态安全评估。
- Beutel et al. 2024 — Diverse and Effective Red Teaming with Auto-Generated Rewards and Multi-Step RL — OpenAI 自动化红队。
开源项目
- OpenAI Triton — Python-like GPU kernel 语言与编译器。
- OpenAI GPT-2 — 早期开源大模型实现。
- OpenAI CLIP — 视觉-语言对比学习。
- OpenAI Whisper — 语音识别模型。
工程分析与演讲
- Scaling ChatGPT: Inside OpenAI's Rapid Growth — Evan Morikawa 访谈。
- Simon Willison: Building, launching, and scaling ChatGPT Images — 产品工程幕后。
- OpenAI Red Teaming Network — 红队计划官方介绍。
本手册交叉引用
- vLLM 详解 — continuous batching、PagedAttention、KV cache。
- TensorRT-LLM 详解 — 编译型推理优化。
- LLM Gateway 详解 — API Gateway、限流、路由、多租户。
- 安全详解 — Preparedness Framework、Red Teaming、Guardrails。
- AI SRE 详解 — SLO、burn rate、可观测性。
- Agent Runtime 详解 — Agent 执行与工具调用。
- Anthropic 案例研究 — 对照"规模驱动"与"对齐驱动"两条前沿实验室工程路线。
- Meta 案例研究 — 对照"闭源规模(OpenAI)↔ 闭源对齐(Anthropic)↔ 开放权重 + 硬件协同设计(Meta)"三角,理解开放生态如何 scale 到极致。
- Google 案例研究 — 对照"闭源规模 + 通用 GPU"与"垂直整合自研 TPU 硅 + 开放软件栈(JAX/XLA/MaxText)"。
学习路径建议
- 先读 OpenAI 官方 latency optimization guide 与 Preparedness Framework。
- 看 Microsoft/Azure 合作博客,理解训练基础设施规模。
- 跑通 Triton 官方 tutorial,理解 GPU kernel 编程。
- 结合本手册 LLMOps 与 LLM Gateway 主题,复现一个 mini API server。
- 阅读 System Cards,学习如何撰写模型安全评估报告。
小结
OpenAI 的公开资料是理解大模型基础设施的宝贵资源。建议持续关注 OpenAI Blog、Research、System Cards 与 Microsoft/Azure 的技术发布,因为这一领域仍在快速演进。