Skip to content

10. 面试题 ​

本章用初/中/高级三档问答检验对 xAI/Colossus 基础设施的理解。答案紧扣前述章节,数字一律区分官方口径与估算/传闻。


初级(概念与事实) ​

Q1. Colossus 是什么?给出它的关键数字与来源。 ​

答:xAI 位于孟菲斯(后续扩展至密西西比州南黑文(Southaven)的 Colossus 2)的超算集群。一手数字(NVIDIA 新闻稿,2024-10-28):10 万卡液冷 NVIDIA H100、122 天建成、首批机柜上架后 19 天开始训练;随后约 92 天翻倍至 20 万卡(H100+H200)。网络采用 Spectrum-X 以太网(SN5600 交换机 800Gb/s + BlueField-3 SuperNIC)。Colossus 2 规划 100 万+ GPU、供电吉瓦级(官方口径"世界首个吉瓦级 AI 训练集群")。(1. 背景、3. 架构)

Q2. xAI 为什么选 Spectrum-X 以太网而不是 InfiniBand? ​

答:三个理由(3.4 节、5.3 节):其一,Spectrum-X 把此前 IB 独有的能力(自适应路由、芯片级逐流拥塞控制、AI fabric 可视化、多租户性能隔离)搬上标准以太网;其二,官方实测口径:Grok 训练持续 95% 数据吞吐、零丢包/零延迟劣化,对照传统以太网约 60%;其三,以太网的供应链弹性、成本与运维人才储备优于单供应商的 IB 生态。本质是把"AI 训练必须无损 IB"的假设改成了"增强以太网 + 芯片级拥塞控制"。

Q3. 为什么 Colossus 必须用液冷?算一笔账。 ​

答:单柜 64 张 H100 ≈ 45 kW,已突破风冷约 35 kW/柜的实用上限;GB200 NVL72 整柜 86–120 kW+,风冷不存在选项。Mini Demo 场景 5:10 万卡 H100 风冷需 3,125 柜 vs 液冷 1,389 柜(密度约 2.25 倍),且 PUE 1.4→1.2 再省约 14% 电量(年省约 14.7 万 MWh)。Supermicro 官方案例:4U 8 卡 HGX × 8 台/柜、直接到芯片液冷 + 机柜内 CDU。(3.3 节、7. Mini Demo)

Q4. 10 万卡 H100 大概要多少电?孟菲斯的电网够吗? ​

答:100k × 700 W × 1.2(网络/存储开销)× 1.2(液冷 PUE)≈ 100.8 MW。孟菲斯首期电网批准 150 MW(MLGW/TVA),够用;扩到 20 万卡需约 201.6 MW,超出 51.6 MW——这就是 35 台自备燃气轮机的工程理由(把供电缺口从等电网扩容的 180 天压到 45 天,Mini Demo 场景 2)。(3.2 节)

Q5. xAI 开源过什么? ​

答:只有两件:Grok-1 权重(2024-03,314B MoE、8 选 2 专家、约 25% 权重活跃、Apache 2.0;仅权重 + 极简推理示例,无训练代码)和 PromptIDE(2023-11 的 Grok 提示工程 IDE,已停止维护下线)。Grok-2/3/4 系列未再开放权重。与 Google(JAX/XLA/MaxText 全栈开源)、Meta(Llama 权重 + 生态开源)形成光谱两端。(6.2 节)


中级(机制与设计权衡) ​

Q6. "单一训练域(single training domain)"的通信数学是什么?为什么模型越大它越值钱? ​

答:跨园区层次化 AllReduce 的固定惩罚 = 梯度消息大小 ÷ DCI 带宽 + 2 × 跨园区 RTT。分子随模型大小线性增长,分母 DCI 带宽是固定资产。Mini Demo 场景 3(10 万卡、DCI 1.6 Tbps、RTT 5 ms):梯度 256 GB 时吞吐损失 0.7%,16 TB(万亿参数级全量数据并行)时达 9.9%。所以前沿模型竞赛里"把所有卡放进同一园区"的价值随模型规模放大——这是 xAI 把 10 万卡塞进孟菲斯一个厂房的理论依据。(2.2 节、7. Mini Demo)

Q7. 122 天的工期是怎么压出来的?为什么不能靠"加班"? ​

答:靠关键路径重排而非单点加速(Mini Demo 场景 1):教科书串行流程 425 天,Colossus 式重排后集群就绪 122 天(3.48 倍)。三个动作:① 移动燃气轮机 25 天供电,让电网扩容(120 天)退出关键路径变后台任务;② 网络按 5 个 pod 并行滚动铺设;③ 服务器 10 个波次两两并行交付、边到货边上架,首批训练在第 61 天(约一成算力)就开始。加班只能压缩单任务工期,而瓶颈在依赖结构——砍非关键路径的工期对 makespan 零贡献。(4.2 节)

Q8. xAI 与特斯拉的硬件(Dojo/Cortex/AI5)是什么关系? ​

答:资产边界清晰,协同靠商业协议。Colossus 是 xAI 的;Dojo(据报道 2025-08 主项目被叫停)、Cortex(得州,约 5 万卡 H100 起步,Cortex 2.0 据报道约 250 MW)、AI5 芯片都是特斯拉的。协同发生在模型层:2026-03 官宣的 "Digital Optimus / Macrohard" 联合项目(Reuters 报道)中,Grok 作 System 2 负责高层推理,特斯拉端侧系统作 System 1 处理约最近 5 秒的屏幕/键鼠实时流;据报道特斯拉 2026-01 达成向 xAI 投资 20 亿美元的协议(股东层面曾有争议与诉讼)。面试时混淆两边资产是常见错误。(2.3 节、8.4 节)

Q9. 孟菲斯燃气轮机争议的来龙去脉? ​

答:工程动机是供电缺口(Q4)。合规链条(Reuters/法院文件口径):孟菲斯最多 35 台临时轮机 → EPA 2026-01 收紧"临时设备豁免" → 密西西比州 MDEQ 2026-03 批准南黑文 41 台永久轮机(约 1.2 GW)→ Reuters 报道实际运行 59 台未许可轮机 → NAACP 等 2026-04 诉《清洁空气法》 → DOJ 2026-06 以国家安全介入 → 据报道承诺 2027 年底前拆除孟菲斯临时轮机。教训:速度策略必须配止损条件与降级预案(原则六)。(8.1 节)

Q10. 为什么 xAI 几乎不开源也不发论文?这对它的基础设施叙事有什么影响? ​

答:动机:速度文化的自然延伸——保密不给对手免费信息,也省去技术写作与审计成本。代价:① 技术信誉只能靠产品行为与第三方估算维持,训练效率(MFU)与可靠性不可审计;② 学术界与开源社区的人才管道变窄,招聘要靠溢价与使命感对冲;③ 外界数字(Epoch AI 对 Grok-4 约 4.9 亿美元算力、14 万吨 CO2 的估算)只能标注为"第三方估算"。对照 Google 用 NSDI 论文换来的审计性与招聘红利。(6.3 节、8.3 节)


高级(系统设计与开放问题) ​

Q11. 设计一个 50 万卡 GB300 集群的供电与散热方案,你会从 xAI 案例吸取什么、避开什么? ​

答(参考框架):供电——按 1200 W/卡 × 1.2 开销 × 1.2 PUE 估算设施负载约 864 MW,先锁定电网长协(基载)+ 燃气轮机/储能桥接,并把 EPA 口径下的许可时序写进关键路径(避开 xAI 的 59 台未许可轮机教训);散热——DLC 唯一选项,每柜 72 卡 × 1200 W ≈ 86 kW,需约 6,945 柜,重点设计 CDU 冗余、水质管理与泄漏检测;网络——400 Gb/s/卡注入即 200 Pb/s 级 fabric,沿用 Spectrum-X 路线但要求厂商给出超大规模(10 万+ 端点)的长尾抖动数据;选址——"单都会区双园区"(xAI Colossus 2 模式)在电力天花板与单点故障之间折中;可靠性——补齐 xAI 的黑盒:量化可用率目标、双路径恢复预案、高频异步 checkpoint(参考 Google 案例 的 NSDI'24 方法论)。(3 章、8.5 节、9 章)

Q12. xAI 创始团队过半离职(含 Babuschkin/Yang/Wu/Ba),从基础设施角度怎么解读? ​

答:三层解读:① 速度文化的折旧率——用里程碑承诺与使命感压缩工期,核心工程师的忠诚以工程周期为半衰期;离职者中恰是训练系统与模型理论的灵魂人物,说明透支发生在最关键的位置。② 治理摩擦——马斯克横跨五家公司的资源调度(xAI/X/特斯拉/SpaceX 的算力与人才互借)制造持续的利益冲突与股东诉讼,技术负责人的决策自主权受限。③ 招聘市场的再平衡——对手(OpenAI、Meta MSI、独立创业)用稳定治理与充足算力吸收这波人才。教训:超集群项目的组织设计(股权、决策权、备份梯队)是基础设施的一部分,不是 HR 问题。(8.3 节)

Q13. 据报道 xAI 把 Colossus 算力租给 Anthropic/Google——自建集群又租给对手,这个商业模式矛盾吗? ​

答:不矛盾,是"算力过剩焦虑症"的对冲组合(8.5 节)。训练自用抢时间窗是战略价值最大化;第二梯队算力(旧卡/阶段性闲置)出租把固定成本变成现金流,摊薄吉瓦级投资的财务风险;同时租用关系制造了对手对自身基础设施的依赖。需注意证据等级:Anthropic 年租 50 亿美元的说法来自低可信度来源(未证实),Google 租约 11 万卡为二手报道;官方可确认的对冲只有 Grok 上架 AWS Bedrock。面试中引用必须区分这两级。(6.4 节)

Q14. xAI 模式可以复制吗?给出"可以/不可以"的边界条件。 ​

答:可复制的部分:关键路径重排(原则一)、电力一等公民(原则二)、通信数学决策集群形态(原则三)、fabric 端到端验收(原则四)、滚动交付。不可复制/不应复制的部分:① 马斯克资产组合(X 数据分发、供应商私交、跨公司调度、资本通道)没有通用性;② 先上线后合规的套利窗口已制度性关闭(EPA 2026 规则、诉讼先例),复制的合规利率显著更高;③ 不设防的速度——没有止损条件与可靠性工程的 xAI 式冲刺,在强监管行业(金融/政务/医疗)不可接受;④ 单点治理风险——一个人的控股集团模式在多数公司治理结构下不可行。结论:学它的工程方法,不学它的治理豁免权。(9 章)

Released under CC-BY-SA-4.0 License.