技术指南

MLflow 和模型生命周期跟踪

MLflow 是一个开源平台,用于管理机器学习生命周期,从实验跟踪到模型打包和部署。

阅读时间:2分钟最后更新

概述

It matters because it brings order and reproducibility to the messy, iterative process of building models.

深入探讨

MLflow 由 Databricks 创建并于 2018 年发布,它解决了一个常见的难题:数据科学家进行了数百次实验,但无法追踪哪些参数、代码和数据生成了最佳模型。 MLflow 围绕四个组件进行组织。跟踪每次运行的日志参数、指标、代码版本和输出工件,以便结果具有可比性。项目在定义的环境中以可重用、可重现的格式打包代码。模型提供了标准格式,因此可以将相同的模型部署到许多服务目标。模型注册表添加了版本控制、阶段转换(例如暂存到生产)和批准工作流程。 MLflow 与框架无关,可与 scikit-learn、PyTorch、TensorFlow、XGBoost 等配合使用,这就是为什么它成为实验管理和轻量级 MLOps 的事实上的标准。

技术洞察

MLflow Tracking 通过日志记录 API 工作:在训练脚本中,您调用函数来记录参数、指标和工件,这些参数、指标和工件将写入由数据库和工件存储支持的跟踪服务器。每次运行都会获得一个唯一的 ID,并且属于一个实验。模型格式用风味(其框架)和元数据包装经过训练的模型,因此可以通过 REST 加载或提供单个工件,而无需重写推理代码。

战略影响

成本与预算

多年来,架构决策决定着性能和运营成本。

更清晰的判决

技术教育帮助团队选择正确的堆栈,而不仅仅是最新的堆栈。

质量控制

更好的工程选择可以减少生产中的可靠性事故。

MLflow 和模型生命周期跟踪的未来

MLflow 正在积极扩展到生成式 AI,增加了 LLM 应用程序的跟踪、提示管理以及链和代理的评估工具。期望对跟踪非确定性 LLM 输出、数据集和提示版本控制以及与更广泛的可观察性堆栈的集成提供更深入的支持。随着注册中心的成熟,它越来越多地充当治理中心,团队在生产环境中批准、审核和回滚经典模型和生成人工智能系统。

现实世界的实施

数据科学团队使用 MLflow Tracking 记录每次训练运行,然后在 UI 中比较数十次运行,以选择性能最佳的模型。

仅在审阅者批准转换后,保险公司才使用模型注册表将风险模型从暂存阶段升级为生产阶段。

团队以 MLflow 格式打包模型一次,然后将相同的工件部署到 REST 端点、批处理作业和云平台。

LLM 应用程序团队使用 MLflow 跟踪来记录每个调用的提示、响应和延迟,从而调试行为不当的代理。

风险与防护栏

优化一项基准测试可以隐藏更广泛的系统弱点。

基础设施和维护成本常常被低估。

随着系统变得更加复杂,安全性和可观察性差距可能会扩大。

实施路线图

1

在实施之前定义延迟、质量和成本目标。

2

在实际负载和数据条件下进行基准测试。

3

仪器监控错误、漂移和用户影响。

4

在扩展之前准备回滚和事件响应路径。

不断探索

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the MLflow and Model Lifecycle Tracking quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

开始测验

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

下一个指南

模型生命周期

常见问题

What is MLflow and Model Lifecycle Tracking?

MLflow 是一个开源平台,用于管理机器学习生命周期,从实验跟踪到模型打包和部署。这很重要,因为它为构建模型的混乱、迭代过程带来了秩序和可重复性。

MLflow Tracking 为数据科学家解决的主要问题是什么?

跟踪记录每次运行的输入和结果,以便团队可以比较实验并重现最佳模型。

哪个 MLflow 组件处理模型版本控制和阶段转换(例如暂存到生产)?

模型注册表添加了版本控制、生命周期阶段和审批工作流程,用于管理生产中的模型。

MLflow“与框架无关”是什么意思?

MLflow 支持广泛的框架,这是它成为事实上的标准的主要原因。

MLflow 模型格式的目的是什么?

模型格式标准化了打包,因此可以将相同的工件加载回或提供给多个目标,而无需重写代码。

哪家公司创建了 MLflow?

MLflow 由 Databricks 创建并于 2018 年开源发布。