在 Azure 机器学习管道中使用 AutoML

适用于：Python SDK azureml v1

Azure 机器学习的自动化机器学习（AutoML）功能可帮助你发现高性能模型，而无需重新实现每个可能的方法。 结合 Azure 机器学习管道，可以创建可部署的工作流，以快速发现最适合数据的算法。

本文介绍如何使用 Python 有效地将数据准备步骤联接到自动化机器学习步骤。 AutoML 可以快速发现最适合你的数据的算法，同时让你开始使用 MLOps，并使用管道对生命周期操作进行建模。

先决条件

• Azure 订阅。 如果没有 Azure 订阅，请在开始操作前先创建一个免费帐户。 立即试用免费版或付费版 Azure 机器学习。

• Azure 机器学习工作区。 请参阅 “创建需要开始使用的资源”。

• 熟悉 Azure 的自动化机器学习和机器学习管道设施和 SDK。

查看 AutoML 的中心类

管道中的自动化机器学习由对象 AutoMLStep 表示。 AutoMLStep 类是 PipelineStep 的子类。 PipelineStep 对象的图形定义了 Pipeline。

PipelineStep 有多个子类。 除了AutoMLStep，本文还展示了一个用于数据准备的PythonScriptStep和另一个用于注册模型的PythonScriptStep。

最初 将数据移动到 机器学习管道的首选方法是使用 Dataset 对象。 若要在步骤 之间 移动数据以及保存运行中的数据输出，首选方法是使用 OutputFileDatasetConfig 和 OutputTabularDatasetConfig 对象。 若要与 AutoMLStep 结合使用，必须将 PipelineData 对象转换为 PipelineOutputTabularDataset 对象。 有关详细信息，请参阅将数据移入 ML 管道和在 ML 管道之间移动数据的步骤。

通过 AutoMLStep 对象配置 AutoMLConfig。 AutoMLConfig 是一个灵活的类，如 “配置试验设置”中所述。

Pipeline 在 Experiment 中运行。 对于每个步骤，管道 Run 都具有子级 StepRun。 自动化机器学习 StepRun 的输出是性能最高的模型和训练指标。

为了具体介绍，本文会创建一个用于分类任务的简单管道。 任务是预测泰坦尼克号生存情况，但我们不会讨论数据或任务，仅偶尔提及。

入门

检索初始数据集

通常，机器学习工作流从预先存在的基线数据开始。 对于已注册的数据集，这是一个很好的方案。 数据集在整个工作区中可见，支持版本控制，并且可以以交互方式浏览。 可通过多种方法创建和填充数据集，如创建 Azure 机器学习数据集中所述。 由于我们使用 Python SDK 创建管道，因此请使用 SDK 下载基线数据并将其注册 到名称titanic_ds。

from azureml.core import Workspace, Dataset

ws = Workspace.from_config()
if not 'titanic_ds' in ws.datasets.keys() :
    # create a TabularDataset from Titanic training data
    web_paths = ['https://dprepdata.blob.core.windows.net/demo/Titanic.csv',
                 'https://dprepdata.blob.core.windows.net/demo/Titanic2.csv']
    titanic_ds = Dataset.Tabular.from_delimited_files(path=web_paths)

    titanic_ds.register(workspace = ws,
                                     name = 'titanic_ds',
                                     description = 'Titanic baseline data',
                                     create_new_version = True)

titanic_ds = Dataset.get_by_name(ws, 'titanic_ds')

代码首先登录到 config.json中定义的 Azure 机器学习工作区。 若要了解如何创建配置文件，请参阅 “创建工作区配置文件”。 如果尚未注册名为 'titanic_ds' 的数据集，该 SDK 将创建它。 该代码从 Web 下载 CSV 数据，实例化 a TabularDataset，然后将数据集注册到工作区。 最后，函数 Dataset.get_by_name() 将 Dataset 分配给 titanic_ds。

配置存储和计算目标

管道所需的其他资源包括存储，以及通常情况下的 Azure 机器学习计算资源。

from azureml.core import Datastore
from azureml.core.compute import AmlCompute, ComputeTarget

datastore = ws.get_default_datastore()

compute_name = 'cpu-cluster'
if not compute_name in ws.compute_targets :
    print('creating a new compute target...')
    provisioning_config = AmlCompute.provisioning_configuration(vm_size='STANDARD_D2_V2',
                                                                min_nodes=0,
                                                                max_nodes=1)
    compute_target = ComputeTarget.create(ws, compute_name, provisioning_config)

    compute_target.wait_for_completion(
        show_output=True, min_node_count=None, timeout_in_minutes=20)

    # Show the result
    print(compute_target.get_status().serialize())

compute_target = ws.compute_targets[compute_name]

数据准备和 AutoML 步骤之间的中间数据可以存储在工作区的默认数据存储中，因此无需对对象执行更多的调用get_default_datastore()Workspace。

然后，代码会检查 Azure 机器学习计算目标 'cpu-cluster' 是否已经存在。 如果不是，指定需要一个基于 CPU 的小型计算目标。 如果计划使用 AutoML 的深度学习功能（例如，使用 DNN 支持的文本特征化），则应选择支持强 GPU 的计算，如 GPU 优化虚拟机大小中所述。

代码将一直阻止到目标预配完毕，然后打印刚创建的计算目标的某些详细信息。 最后，从工作区检索命名计算目标并将其分配给 compute_target。

配置训练运行

通过创建和配置 RunConfiguration 对象来设置运行时上下文。 这里我们设置了计算目标。

from azureml.core.runconfig import RunConfiguration
from azureml.core.conda_dependencies import CondaDependencies

aml_run_config = RunConfiguration()
# Use just-specified compute target ("cpu-cluster")
aml_run_config.target = compute_target

# Specify CondaDependencies obj, add necessary packages
aml_run_config.environment.python.conda_dependencies = CondaDependencies.create(
    conda_packages=['pandas','scikit-learn'], 
    pip_packages=['azureml-sdk[automl]', 'pyarrow'])

准备数据以用于 AutoML

编写数据准备代码

基线泰坦尼克号数据集由混合的数字和文本数据组成，且缺少一些值。 若要使其为自动化机器学习做好准备，数据准备管道步骤将：

• 使用随机数据或对应于未知的类别填充缺失的数据
• 将分类数据转换为整数
• 删除不想使用的列
• 将数据拆分为训练集和测试集
• 将转换后的数据写入 OutputFileDatasetConfig 输出路径

%%writefile dataprep.py
from azureml.core import Run

import pandas as pd 
import numpy as np 
import argparse

RANDOM_SEED=42

def prepare_age(df):
    # Fill in missing Age values from distribution of present Age values 
    mean = df["Age"].mean()
    std = df["Age"].std()
    is_null = df["Age"].isnull().sum()
    # compute enough (== is_null().sum()) random numbers between the mean, std
    rand_age = np.random.randint(mean - std, mean + std, size = is_null)
    # fill NaN values in Age column with random values generated
    age_slice = df["Age"].copy()
    age_slice[np.isnan(age_slice)] = rand_age
    df["Age"] = age_slice
    df["Age"] = df["Age"].astype(int)
    
    # Quantize age into 5 classes
    df['Age_Group'] = pd.qcut(df['Age'],5, labels=False)
    df.drop(['Age'], axis=1, inplace=True)
    return df

def prepare_fare(df):
    df['Fare'].fillna(0, inplace=True)
    df['Fare_Group'] = pd.qcut(df['Fare'],5,labels=False)
    df.drop(['Fare'], axis=1, inplace=True)
    return df 

def prepare_genders(df):
    genders = {"male": 0, "female": 1, "unknown": 2}
    df['Sex'] = df['Sex'].map(genders)
    df['Sex'].fillna(2, inplace=True)
    df['Sex'] = df['Sex'].astype(int)
    return df

def prepare_embarked(df):
    df['Embarked'].replace('', 'U', inplace=True)
    df['Embarked'].fillna('U', inplace=True)
    ports = {"S": 0, "C": 1, "Q": 2, "U": 3}
    df['Embarked'] = df['Embarked'].map(ports)
    return df
    
parser = argparse.ArgumentParser()
parser.add_argument('--output_path', dest='output_path', required=True)
args = parser.parse_args()
    
titanic_ds = Run.get_context().input_datasets['titanic_ds']
df = titanic_ds.to_pandas_dataframe().drop(['PassengerId', 'Name', 'Ticket', 'Cabin'], axis=1)
df = prepare_embarked(prepare_genders(prepare_fare(prepare_age(df))))

df.to_csv(os.path.join(args.output_path,"prepped_data.csv"))

print(f"Wrote prepped data to {args.output_path}/prepped_data.csv")

前面的代码片段是一个全面但简约的泰坦尼克号数据准备示例。 该代码片段以 Jupyter magic 命令 开头，用于将代码输出到文件。 如果未使用 Jupyter 笔记本，请删除该行并手动创建文件。

代码片段中的各种 prepare_ 函数修改输入数据集中的相关列。 将数据更改为 Pandas DataFrame 对象后，这些函数就会对其进行处理。 在每种情况下，缺失的数据要么填充具有代表性的随机数据，要么填充指示 未知的分类数据。 基于文本的分类数据映射到整数。 将覆盖或删除不再需要的列。

代码定义了数据准备函数之后，会解析输入参数，这是我们要写入数据的路径。 这些值由下一步中讨论的OutputFileDatasetConfig对象确定。代码检索已注册的'titanic_cs'Dataset，将其转换为Pandas DataFrame，并调用各种数据准备函数来执行处理。

由于 output_path 是一个目录，因此对 to_csv() 的调用会指定文件名 prepped_data.csv。

编写数据准备管道步骤 (PythonScriptStep)

数据准备代码必须与 PythonScriptStep 对象相关联才能用于管道。 CSV 输出写入的路径由 OutputFileDatasetConfig 对象生成。 前面准备的资源（如 ComputeTarget、RunConfig 和 'titanic_ds' Dataset）用于补全规范。

from azureml.data import OutputFileDatasetConfig
from azureml.pipeline.steps import PythonScriptStep

prepped_data_path = OutputFileDatasetConfig(name="output_path")

dataprep_step = PythonScriptStep(
    name="dataprep", 
    script_name="dataprep.py", 
    compute_target=compute_target, 
    runconfig=aml_run_config,
    arguments=["--output_path", prepped_data_path],
    inputs=[titanic_ds.as_named_input('titanic_ds')],
    allow_reuse=True
)

prepped_data_path 对象的类型为 OutputFileDatasetConfig，它指向一个目录。 请注意，它是在 arguments 参数中指定的。 如果查看上一步，则会看到在数据准备代码中，参数 '--output_path' 的值是 CSV 文件写入的目录路径。

通过 AutoMLStep 训练

使用 AutoMLConfig 类配置自动化机器学习管道步骤。 若要了解有关此灵活类的详细信息，请参阅 AutoMLConfig 类。 数据输入和输出是在机器学习管道中需要特别注意的配置的唯一方面。 本文稍后将讨论管道中AutoMLConfig的输入和输出。 除了数据之外，机器学习管道的优势在于能够对不同的步骤使用不同的计算目标。 可以选择仅对自动化机器学习过程使用更强大的 ComputeTarget 功能。 这样做很简单，只需将功能更强大的 RunConfiguration 分配给 AutoMLConfig 对象的 run_configuration 参数即可。

将数据发送到 AutoMLStep

在机器学习管道中，输入数据必须是对象 Dataset 。 性能最高的方法是以 OutputTabularDatasetConfig 对象的形式提供输入数据。 可以使用 read_delimited_files() 上的 OutputFileDatasetConfig 创建该类型的对象，例如 prepped_data_path，例如 prepped_data_path 对象。

# type(prepped_data) == OutputTabularDatasetConfig
prepped_data = prepped_data_path.read_delimited_files()

另一个选项是使用在工作区中注册的 Dataset 对象：

prepped_data = Dataset.get_by_name(ws, 'Data_prepared')

比较这两种方法：

指定 AutoML 输出

AutoMLStep 的输出是高性能模型和该模型本身的最终指标分数。 若要在后续管道步骤中使用这些输出，请准备 OutputFileDatasetConfig 对象来接收它们。

from azureml.pipeline.core import TrainingOutput, PipelineData

metrics_data = PipelineData(name='metrics_data',
                            datastore=datastore,
                            pipeline_output_name='metrics_output',
                            training_output=TrainingOutput(type='Metrics'))

model_data = PipelineData(name='best_model_data',
                          datastore=datastore,
                          pipeline_output_name='model_output',
                          training_output=TrainingOutput(type='Model'))

此代码片段为指标和模型输出创建两 PipelineData 个对象。 为这两个对象命名，将其分配给先前检索到的默认数据存储，并与 type 中 TrainingOutput 的特定 AutoMLStep 相关联。 由于我们对这些PipelineData对象进行分配pipeline_output_name，因此它们的值不仅可从单个管道步骤中获取，而且从整个管道中获取，如“检查管道结果”部分后面部分所述。

配置并创建 AutoML 管道的步骤

定义输入和输出后，就可以创建 AutoMLConfig 和 AutoMLStep 了。 配置的详细信息取决于任务，如 使用 Python 设置 AutoML 训练中所述。 对于泰坦尼克号幸存者分类任务，以下代码片段演示了一个简单的配置。

from azureml.train.automl import AutoMLConfig
from azureml.pipeline.steps import AutoMLStep

# Change iterations to a reasonable number (50) to get better accuracy
automl_settings = {
    "iteration_timeout_minutes" : 10,
    "iterations" : 2,
    "experiment_timeout_hours" : 0.25,
    "primary_metric" : 'AUC_weighted'
}

automl_config = AutoMLConfig(task = 'classification',
                             path = '.',
                             debug_log = 'automated_ml_errors.log',
                             compute_target = compute_target,
                             run_configuration = aml_run_config,
                             featurization = 'auto',
                             training_data = prepped_data,
                             label_column_name = 'Survived',
                             **automl_settings)

train_step = AutoMLStep(name='AutoML_Classification',
    automl_config=automl_config,
    passthru_automl_config=False,
    outputs=[metrics_data,model_data],
    enable_default_model_output=False,
    enable_default_metrics_output=False,
    allow_reuse=True)

此片段显示了通常与 AutoMLConfig 一起使用的习语。 在单独的字典中指定更灵活的参数（类似超参数），并直接在 AutoMLConfig 构造函数中指定不太可能更改的值。 在本例中，automl_settings 指定一个简短的运行：运行将在 2 次迭代或 15 分钟后停止，以先达到的条件为准。

automl_settings 字典作为 kwargs 传递给 AutoMLConfig 构造函数。 其他参数并不复杂：

• task 在本例中设置为 classification。 其他有效值为 regression 和 forecasting。
• path 并 debug_log 描述项目的路径以及将调试信息写入到的本地文件。
• compute_target 是先前定义的 compute_target，在本例中，它是一个基于 CPU、价格便宜的计算机。 如果使用 AutoML 的深度学习设施，需要将计算目标更改为基于 GPU。
• featurization 设置为 auto。 可在 AutoML 配置文档 的“数据特征化 ”部分找到更多详细信息。
• label_column_name 指示想要预测的列。
• training_data 设置为从数据准备步骤的输出生成的 OutputTabularDatasetConfig 对象。

AutoMLStep 本身接受 AutoMLConfig，并创建用于保存指标和模型数据的 PipelineData 对象作为输出。

在此示例中，AutoML 进程对 training_data 执行交叉验证。 可以使用 n_cross_validations 参数控制交叉验证次数。 如果已经在数据准备步骤中包含拆分训练数据的过程，可将 validation_data 设置为其自身的 Dataset。

有时可能会看到 X 对数据功能和 y 数据标签的使用。 此方法已弃用，应使用 training_data 作为输入。

注册 AutoML 生成的模型

简单机器学习管道中的最后一步是注册创建的模型。 通过将模型添加到工作区的模型注册表，可以在 Azure 门户中使用它，并且可以对其进行版本控制。 若要注册模型，请编写另一个采用 PythonScriptStep 的 model_data 输出的 AutoMLStep。

编写用于注册模型的代码

在 Workspace 中注册模型。 你可能熟悉如何使用 Workspace.from_config() 在本地计算机上登录到工作区，但有另一种方法可从正在运行的机器学习管道中获取工作区。 Run.get_context() 检索活动 run。 此 run 对象提供对许多重要对象的访问，包括此处使用的 Workspace。

%%writefile register_model.py
from azureml.core.model import Model, Dataset
from azureml.core.run import Run, _OfflineRun
from azureml.core import Workspace
import argparse

parser = argparse.ArgumentParser()
parser.add_argument("--model_name", required=True)
parser.add_argument("--model_path", required=True)
args = parser.parse_args()

print(f"model_name : {args.model_name}")
print(f"model_path: {args.model_path}")

run = Run.get_context()
ws = Workspace.from_config() if type(run) == _OfflineRun else run.experiment.workspace

model = Model.register(workspace=ws,
                       model_path=args.model_path,
                       model_name=args.model_name)

print("Registered version {0} of model {1}".format(model.version, model.name))

写入 PythonScriptStep 代码

注册 PythonScriptStep 的模型使用 PipelineParameter 作为其参数之一。 管道参数即管道的参数，可以在运行提交时轻松设置。 声明后，它们将作为普通参数传递。

from azureml.pipeline.core.graph import PipelineParameter

# The model name with which to register the trained model in the workspace.
model_name = PipelineParameter("model_name", default_value="TitanicSurvivalInitial")

register_step = PythonScriptStep(script_name="register_model.py",
                                       name="register_model",
                                       allow_reuse=False,
                                       arguments=["--model_name", model_name, "--model_path", model_data],
                                       inputs=[model_data],
                                       compute_target=compute_target,
                                       runconfig=aml_run_config)

创建并运行 AutoML 管道

创建并运行包含 AutoMLStep 的管道与创建和运行普通管道相同。

from azureml.pipeline.core import Pipeline
from azureml.core import Experiment

pipeline = Pipeline(ws, [dataprep_step, train_step, register_step])

experiment = Experiment(workspace=ws, name='titanic_automl')

run = experiment.submit(pipeline, show_output=True)
run.wait_for_completion()

此代码将数据准备、自动化机器学习和模型注册步骤合并到一个 Pipeline 对象中。 然后，创建一个 Experiment 对象。 Experiment构造函数检索命名试验（如果存在）或在必要时创建它。 它将Pipeline提交给Experiment，然后创建一个异步运行管道的Run对象。 wait_for_completion() 函数将会阻止，直到运行完成。

检查管道结果

run 完成后，可检索分配到 pipeline_output_name 的 PipelineData 对象。 可下载并加载结果以便进一步处理。

metrics_output_port = run.get_pipeline_output('metrics_output')
model_output_port = run.get_pipeline_output('model_output')

metrics_output_port.download('.', show_progress=True)
model_output_port.download('.', show_progress=True)

下载的文件将写入子目录 azureml/{run.id}/。 指标文件是 JSON 格式的，可以转换为 Pandas 数据框帧进行检查。

对于本地处理，可能需要安装相关的包，如 Pandas、Pickle、Azure 机器学习 SDK 等。 对于此示例，自动化机器学习找到的最佳模型可能取决于 XGBoost。

!pip install xgboost==0.90

import pandas as pd
import json

metrics_filename = metrics_output._path_on_datastore
# metrics_filename = path to downloaded file
with open(metrics_filename) as f:
   metrics_output_result = f.read()
   
deserialized_metrics_output = json.loads(metrics_output_result)
df = pd.DataFrame(deserialized_metrics_output)
df

此代码片段显示从 Azure 数据存储上的位置加载的指标文件。 你还可以从下载的文件加载它，如注释中所示。 反序列化它并将其转换为 Pandas 数据帧后，可以查看自动化机器学习步骤的每个迭代的详细指标。

模型文件可以反序列化为 Model 对象，可将其用于推断和进一步的指标分析等。

import pickle

model_filename = model_output._path_on_datastore
# model_filename = path to downloaded file

with open(model_filename, "rb" ) as f:
    best_model = pickle.load(f)

# ... inferencing code not shown ...

有关加载和使用现有模型的详细信息，请参阅 将机器学习模型部署到 Azure。

下载 AutoML 运行的结果

如果一直在阅读本文，那么你现在有一个实例化 Run 的对象。 但也可以通过 Run 对象从 Workspace 检索已完成的 Experiment 对象。

工作区包含所有试验和运行的完整记录。 可以使用门户来查找和下载试验的输出，也可以使用代码。 若要从历史运行访问记录，请使用 Azure 机器学习查找感兴趣的运行 ID。 使用该 ID，可以通过 run 和 Workspace 选择特定 Experiment。

# Retrieved from Azure Machine Learning web UI
run_id = 'aaaaaaaa-bbbb-cccc-dddd-0123456789AB'
experiment = ws.experiments['titanic_automl']
run = next(run for run in ex.get_runs() if run.id == run_id)

需要将上述代码中的 run_id 字符串更改为历史运行的特定 ID。 代码片段假设你已将 ws 分配给了具有普通 from_config() 的相关 Workspace。 直接检索感兴趣的试验，然后代码会通过匹配 Run 值来查找你感兴趣的 run.id。

有 Run 对象，就可以下载指标和模型了。

automl_run = next(r for r in run.get_children() if r.name == 'AutoML_Classification')
outputs = automl_run.get_outputs()
metrics = outputs['default_metrics_AutoML_Classification']
model = outputs['default_model_AutoML_Classification']

metrics.get_port_data_reference().download('.')
model.get_port_data_reference().download('.')

每个 Run 对象都包含 StepRun 对象，这些对象包含有关单个管道步骤运行的信息。 在 run 中搜索 StepRun 的 AutoMLStep 对象。 使用指标和模型的默认名称检索它们，即使不将 PipelineData 对象传递给 outputs 的 AutoMLStep 参数，也可使用这些名称。

最后，实际指标和模型将下载到本地计算机，如 “检查管道结果 ”部分所述。

相关内容

• 使用 NYC 出租车数据回归模型的 Jupyter 笔记本
• 为表格数据设置无代码自动化 ML 训练
• 展示自动化机器学习的 Jupyter 笔记本
• MLOps：模型管理、部署、世系和监视
• MLOpsPython GitHub 存储库