Skip to content

MLflow:机器学习生命周期管理平台 ​

一句话理解:MLflow 是 ML 世界的“版本控制系统”——它不负责训练或推理的执行,而是把实验、参数、指标、模型 artifact、版本和部署链路统一记录起来,让模型从实验室到生产线可追踪、可复现、可回滚。

2025 年 6 月发布的 MLflow 3.0 把这一记录层扩展到了 GenAI/Agent 时代:Tracing(基于 OpenTelemetry 的 LLM 全链路追踪)、GenAI Evaluation(LLM-as-a-Judge 评估)、Prompt Registry(提示词版本管理)与 AI Gateway 成为与 Tracking/Registry 并列的一等公民;截至 2026-10,社区最新版本为 3.17.x,并内置了 RBAC、Trace 归档、MCP Registry、Helm Chart 等企业级能力。

学习目标 ​

读完本主题,你应该能:

  1. 解释为什么需要 MLflow(实验不可复现、模型版本混乱、部署链路断裂)。
  2. 说清 MLflow 四大核心组件:Tracking、Projects、Models、Model Registry。
  3. 理解 Tracking 的核心概念:Experiment、Run、Metric、Parameter、Artifact、Tag。
  4. 理解 Model Registry 的核心概念:Registered Model、Model Version、Stage、Alias、Tag。
  5. 理解 MLflow Model 的 flavor、signature、input example、conda/env 依赖封装。
  6. 理解 Tracking Server / Backend Store / Artifact Store 三层架构。
  7. 了解 MLflow 3.x 的 GenAI 能力:Tracing、Prompt Registry、GenAI Evaluation、AI Gateway 与 LoggedModel 一等实体。
  8. 了解 MLflow 源码主结构和关键调用链。
  9. 动手跑一个本地 MLflow Mini Demo:训练 sklearn 模型、记录实验、注册模型、加载预测、切换版本。
  10. 知道生产落地要点:部署形态、数据库选择、artifact 存储、RBAC 认证、与 Kubeflow/KServe 集成。

与相邻主题的关系 ​

主题关系链接
KubeflowKubeflow 编排训练/推理工作负载,MLflow 追踪实验与注册模型,两者常互补集成Kubeflow
KServeKServe 可加载 models:/name/version 格式的 MLflow 模型作为在线服务KServe
RayRay Train/Tune 可把实验记录到 MLflowRay
Kubernetes生产部署 MLflow Tracking Server 常跑在 K8s 上Kubernetes
存储系统Artifact Store 的底层是对象存储/文件系统;模型版本依赖持久化存储存储系统
AI SREMLflow 生产环境的监控、SLO、成本治理AI SRE

本章结构 ​

章节标题内容
1背景ML 生命周期管理痛点、MLflow 诞生、与 Kubeflow/W&B/Neptune 的对比
2核心思想Tracking、Projects、Models、Model Registry 四大组件,以及 3.x 新增的 Tracing、Prompt Registry、GenAI Evaluation
3架构设计Tracking Server、Backend Store、Artifact Store、Trace 摄取与归档、REST API、UI
4Runtime 工作流程一次完整实验 → 注册 → 部署的链路
5核心模块Fluent API、MlflowClient、Tracking Service、Model Registry Service、Artifact Repository、Model Flavors、PyFunc
6源码分析mlflow/tracking、mlflow/models、mlflow/store、mlflow/server 关键源码与调用链
7Mini Demo本地 SQLite + 文件 artifact,训练、记录、注册、加载、预测
8企业生产实践部署形态、数据库、artifact 存储、RBAC 认证、Trace 归档、高可用、备份
9最佳实践实验命名、参数/指标规范、模型签名、版本管理、GenAI 观测与评估实践、与 CI/CD 集成
10面试题初/中/高级 MLflow 高频题
11延伸阅读官方文档、论文/博客、生态工具、学习路径

一句话总结 ​

MLflow = AI 应用的事实记录层:Tracking 记录每次实验,Models 封装模型与依赖,Model Registry 管理版本与阶段,Projects 保证代码可复现——MLflow 3.x 又加上了 Tracing(LLM/Agent 全链路观测)、Prompt Registry(提示词版本化)与 GenAI Evaluation(LLM-as-a-Judge 评估),让它们共同覆盖从传统 ML 到 GenAI 应用的完整生命周期。

参考来源 ​

Released under CC-BY-SA-4.0 License.