Skip to content

8. 企业生产实践 ​

8.1 "DeepSeek 时刻":R1 发布的社会化冲击 ​

2025-01-20 R1 发布后的一周内发生的事情,是 AI 基础设施史上罕见的"公开压力测试":

  • 资本市场重定价:2025-01-27 前后,英伟达单日下跌约 17%(市值蒸发近 6000 亿美元量级),"算力稀缺即护城河"的叙事第一次被系统性质疑——如果 557.6 万美元就能训出前沿模型,天价算力订单的逻辑是什么?(事后看,推理需求反而推高了总算力消耗,但那一刻的定价冲击是真实的。)
  • 推理需求洪峰:R1 开源 + API 低价引发全球接入潮,DeepSeek 应用长时间登顶多国应用商店,API 注册排队;第三方(云厂商、推理服务商、终端厂商)争先接入 MIT 权重。
  • 蒸馏生态爆炸:R1 的推理能力被蒸馏到从小到大的各种开源底座上,"R1-distill"一度成为开源社区的标准件。
  • 政策连锁:美国部分机构开始讨论"模型权重开源"与"算力出口管制"的关系——开源权重是否绕过了芯片管制的初衷,成为 2025 年政策辩论的常驻议题(见 AI 安全 主题)。

从基础设施视角,这场冲击的本质是:DeepSeek 把"前沿模型的生产成本函数"公开了。一旦成本函数成为公共知识,所有组织的算力预算、采购决策、融资叙事都必须重算。

8.2 推理扩容与成本工程 ​

R1 带来的推理需求是对其推理系统的第一次大规模实战检验。官方在开源周 Day-6 披露的架构与数字(3.5 节)就是这次扩容的方法论总结:

手段作用数字
PD 分离prefill 计算密集 / decode 带宽密集,独立扩缩容prefill 最小单元 4 节点/32 GPU
冗余专家吸收路由热点,压尾部延迟每卡 8+1 专家
双 micro-batch 重叠通信藏进计算训练侧 DualPipe 思想的推理复用
FP8 KV + MLA + FlashMLAdecode 带宽与容量KV/token/层 1.12 KiB
错峰定价把闲置容量变现、引导削峰填谷见 8.3
3FS KVCache长上下文/agentic 的 KV 温层单客户端 40+ GiB/s

关于 545% 理论成本利润率:这是"按标价、满负载、仅计 GPU 租赁成本"口径的理论上限,官方发布时自己也加了"理论上"的限定。它的价值不在于数字本身,而在于展示了推理系统的成本设计空间——同期 GPT-4.5 的 API 定价被测算约为 R1 的 270 倍(媒体按公开标价对比),成本结构差异远比模型质量差异大。

V3.2 之后的长上下文账:DSA 把 128K 上下文的主注意力计算压到 1/64,配合 MLA 的 KV 压缩,长上下文从"奢侈功能"变成"默认定价"。官方发布 V3.2-Exp 时同步把 API 价格砍了 50% 以上——成本下降立刻让渡给用户,这是把"效率优势"转化为"市场份额"的标准动作。

8.3 API 定价策略时间线 ​

时间事件定价要点
2024-12-26V3 上线 API输入 2 元/M tokens(缓存命中 1 元)、输出 8 元/M tokens(人民币口径)
2025-01-20R1 上线 API输入 4 元/M(命中 1 元)、输出 16 元/M——仍显著低于同期 o1
2025-02-26错峰优惠每日北京时间 00:30–08:30,输入命中 0.25 元/M、未命中 1 元/M、输出 4 元/M(约为标准价 25%,即 75% off)
2025-09-29V3.2-Exp 发布API 价格普降 50% 以上,同时保留 V3.1-Terminus 临时接口供对比
2026-08-16V4 时代定价改革改为峰谷定价:谷时 = 峰时半价(此前固定时段折扣改为通用机制)

这套定价的工程含义:推理集群的负载曲线第一次成为可经营的资产。错峰折扣引导批处理/agentic 长任务夜间运行,把固定成本摊到 24 小时——这是电力市场"峰谷电价"在算力市场的复刻,也是"用工程换算力"思想在商业侧的延伸。

8.4 开源策略的商业影响 ​

  • 生态位而非短期收入:MIT 权重让云厂商(提供托管)、芯片厂商(提供适配)、推理服务商(提供加速)都能围绕 DeepSeek 构建收入,DeepSeek 自己则收获标准地位与数据/品牌。2026 年英伟达与 Hugging Face 联合优化的 NVFP4 变体(Blackwell 原生 FP4 加速)就是这种生态位的直接体现。
  • 倒逼闭源方降价:R1 发布后数月内,多家实验室下调了推理 API 价格或推出开源权重模型——"开源权重 + 成本透明"压缩了整个行业的定价空间。
  • 反哺工程质量:公开 profile-data、kernel deep-dive 文档、昇腾移植技术报告,本质是"把工程文化产品化"。招聘、合作、社区贡献都从中受益。

8.5 算力约束与多硬件适配(事实与传闻之辨) ​

可以确认的事实(技术报告、官方仓库、官方 changelog):

  • V3/R1 训练与 V3.2 推理实测均基于 H800 集群(V3.2 报告的成本曲线即"H800、2 美元/GPU 小时"口径);
  • 2026 年,DeepEP、DeepGEMM、FlashMLA 三个核心库相继发布 Ascend 950(昇腾)后端(FlashMLA 昇腾稀疏 kernel 达 95% 硬件峰值并发布深度技术报告)——"多硬件后端"已是公开技术路线;
  • ISCA'25 论文明确提出"scale-up 与 scale-out 融合、更高精度的低精度累加单元"等硬件期待。

应标注为传闻/不可考的(媒体与社区流传、官方从未确认):

  • V3 训练实际使用的 H800 数量与时间线细节(2048 卡是论文口径;总有传闻称另有扩容);
  • 2025 年 H20 禁售/许可反复期间 DeepSeek 的具体采购与囤货规模;
  • "R2" 的存在与时间表——截至 2026-10,官方路线是把推理能力并入 V 系列(V3.2-Speciale、V4 的 thinking 模式),所谓 R2 从未官宣(CEO 受访时曾表示对早期版本不满意而回炉)。

写作与研究时的纪律:官方论文/仓库/changelog 为第一优先级;媒体测算须标注口径;传闻仅作背景,不进技术结论。这也是本主题全章遵循的引用原则。

8.6 组织:小团队方法论 ​

DeepSeek 的组织形态是其成本奇迹的必要条件(虽非充分条件):

  • 单一目标:没有云业务、没有多产品线,全部资源压在一个目标上——研究者不需要为"业务落地"做工程折中;
  • 垂直整合:训练框架(HAI-LLM)、kernel(DeepGEMM/FlashMLA)、通信(DeepEP)、存储(3FS)同一组织内闭环,没有跨公司接口成本;研究者直接改内核,内核作者直接看 loss 曲线;
  • 精英密度:公开报道反复提到"小而精"的 Infra 团队规模(核心成员多有 fire-Flyer 时代共事背景),V3 论文的作者列表里 infra 方向人数远小于模型方向;
  • 论文即工程文档:每个大版本附带罕见详细的系统章节(并行配置、气泡公式、成本表、硬件建议)——写作本身被当成工程的一部分。

8.7 可靠性与运维视角(AI SRE 交叉) ​

  • 训练零回滚:V3 全程无不可恢复 loss spike、无 rollback——大规模 FP8 + MoE 训练做到这一点,依赖的是 §5.3 的精度预算管理 + 实时监控 + 保守的 checkpoint 策略(高频写 3FS);
  • 推理冗余:prefill 冗余专家是"用容量换尾延迟"的可靠性设计;PD 分离让两类故障域独立;
  • 故障语义清晰:EP 组内单卡故障影响面 = 该 EP 组 + 对应 DP 副本,无 TP 意味着没有"全队 allreduce 卡死"类的全局故障模式——不用 TP 在可靠性上也是加分项(对照 AI SRE 主题的故障域讨论)。

8.8 生产实践小结 ​

实践一句话
成本公开把生产成本函数变成公共知识,重定价整个行业
错峰经营负载曲线是可经营资产,峰谷定价削峰填谷
效率让渡成本下降即刻转为降价,换市场份额与标准地位
多硬件适配核心库全后端化(CUDA/Ascend),不被单供应链锁死
传闻纪律论文/仓库/changelog 优先,传闻不进技术结论

下一章 最佳实践 把可迁移的经验整理成检查清单。

Released under CC-BY-SA-4.0 License.