数据偏移（预览版）将停用，并由模型监视器取代

适用于：Python SDK azureml v1

Dataset 类的 with_timestamp_columns() 方法定义数据集的时间戳列。

from azureml.core import Workspace, Dataset, Datastore

# get workspace object
ws = Workspace.from_config()

# get datastore object
dstore = Datastore.get(ws, 'your datastore name')

# specify datastore paths
dstore_paths = [(dstore, 'weather/*/*/*/*/data.parquet')]

# specify partition format
partition_format = 'weather/{state}/{date:yyyy/MM/dd}/data.parquet'

# create the Tabular dataset with 'state' and 'date' as virtual columns
dset = Dataset.Tabular.from_parquet_files(path=dstore_paths, partition_format=partition_format)

# assign the timestamp attribute to a real or virtual column in the dataset
dset = dset.with_timestamp_columns('date')

# register the dataset as the target dataset
dset = dset.register(ws, 'target')

如果使用 Azure 机器学习工作室创建数据集，请确保数据的路径包含时间戳信息（其中包括包含数据的所有子文件夹），并设置分区格式。

在以下示例中，采用了子文件夹 NoaaIsdFlorida/2019 下的所有数据，分区格式指定了时间戳的年、月和日。

在“架构”设置中，从指定的数据集中的虚拟列或实际列中指定“时间戳”列。 此类型指示数据具有时间组件。

如果数据已按日期或时间分区，如此处案例所示，则还可以指定“分区时间戳”。 这样，就可以更高效地处理日期并启用可在训练期间应用的时序 API。

不支持。

适用于：Python SDK azureml v1

有关完整详细信息，请参阅有关数据偏移的 Python SDK 参考文档。

以下示例演示如何使用 Python SDK 创建数据集监视器：

from azureml.core import Workspace, Dataset
from azureml.datadrift import DataDriftDetector
from datetime import datetime

# get the workspace object
ws = Workspace.from_config()

# get the target dataset
target = Dataset.get_by_name(ws, 'target')

# set the baseline dataset
baseline = target.time_before(datetime(2019, 2, 1))

# set up feature list
features = ['latitude', 'longitude', 'elevation', 'windAngle', 'windSpeed', 'temperature', 'snowDepth', 'stationName', 'countryOrRegion']

# set up data drift detector
monitor = DataDriftDetector.create_from_datasets(ws, 'drift-monitor', baseline, target,
                                                      compute_target='cpu-cluster',
                                                      frequency='Week',
                                                      feature_list=None,
                                                      drift_threshold=.6,
                                                      latency=24)

# get data drift detector by name
monitor = DataDriftDetector.get_by_name(ws, 'drift-monitor')

# update data drift detector
monitor = monitor.update(feature_list=features)

# run a backfill for January through May
backfill1 = monitor.backfill(datetime(2019, 1, 1), datetime(2019, 5, 1))

# run a backfill for May through today
backfill1 = monitor.backfill(datetime(2019, 5, 1), datetime.today())

# disable the pipeline schedule for the data drift detector
monitor = monitor.disable_schedule()

# enable the pipeline schedule for the data drift detector
monitor = monitor.enable_schedule()

1. 导航到工作室的主页。

2. 选择数据选项卡。

3. 选择“数据集监视器”。

4. 选择“+创建监视器”按钮，然后选择“下一步”以继续完成向导。

1. 选择目标数据集。 目标数据集是一个表格数据集，在其中指定的时间戳列将用于分析数据偏移。 目标数据集必须包含与基线数据集共有的特征，并且应该是要将新数据追加到的 timeseries 数据集。 可以分析目标数据集中的历史数据，也可以监视新数据。

2. 选择基线数据集。 选择在比较一段时间内的目标数据集时用作基线的表格数据集。 基线数据集必须包含与目标数据集共有的特征。 选择一个使用目标数据集切片的时间范围，或指定一个可用作基线的单独数据集。

3. 监视器设置。 这些设置适用于要创建的计划数据集监视管道。

   设置	说明	提示	可变
   名称	数据集监视器的名称。		否
   功能	要在其中分析一段时间内的数据偏移的特征列表。	设置为模型的输出特征，以度量概念偏移。 不要包含一段时间内会自然偏移的特征（月、年、索引等）。 调整特征列表后，可以回填现有的数据偏移监视器。	是
   计算目标	用于运行数据集监视作业的 Azure 机器学习计算目标。		是
   启用	在数据集监视管道中启用或禁用计划	禁用计划以使用回填设置分析历史数据。 可以在创建数据集监视器后启用此设置。	是
   频率	用于计划管道作业以及分析历史数据（如果运行回填）的频率。 选项包括每日、每周或每月。	每个作业都会根据频率比较目标数据集中的数据： 每天：将目标数据集中最新的完整日与基线进行比较 每周：将目标数据集中最新的完整周（星期一 - 星期日）与基线进行比较 每月：将目标数据集中最新的完整月与基线进行比较	否
   延迟	数据进入数据集所需的时间（以小时为单位）。 例如，如果数据花费 3 天时间进入数据集封装的 SQL 数据库，则将滞后时间设置为 72。	创建数据集监视器后无法更改	否
   电子邮件地址	在违反数据偏移百分比阈值时用于发出警报的电子邮件地址。	电子邮件将通过 Azure Monitor 发送。	是
   阈值	发出电子邮件警报之前所要达到的数据偏移百分比阈值。	可以在工作区关联的 Application Insights 资源中针对其他许多指标设置警报和事件。	是

完成向导后，生成的数据集监视器会显示在列表中。 选择该监视器转到其详细信息页。

不支持

可使用以下代码设置现成的模型监视：

from azure.identity import DefaultAzureCredential
from azure.ai.ml import MLClient
from azure.ai.ml.entities import (
    AlertNotification,
    MonitoringTarget,
    MonitorDefinition,
    MonitorSchedule,
    RecurrencePattern,
    RecurrenceTrigger,
    ServerlessSparkCompute
)

# get a handle to the workspace
ml_client = MLClient(
    DefaultAzureCredential(),
    subscription_id="subscription_id",
    resource_group_name="resource_group_name",
    workspace_name="workspace_name",
)

# create the compute
spark_compute = ServerlessSparkCompute(
    instance_type="standard_e4s_v3",
    runtime_version="3.3"
)

# specify your online endpoint deployment
monitoring_target = MonitoringTarget(
    ml_task="classification",
    endpoint_deployment_id="azureml:credit-default:main"
)


# create alert notification object
alert_notification = AlertNotification(
    emails=['abc@example.com', 'def@example.com']
)

# create the monitor definition
monitor_definition = MonitorDefinition(
    compute=spark_compute,
    monitoring_target=monitoring_target,
    alert_notification=alert_notification
)

# specify the schedule frequency
recurrence_trigger = RecurrenceTrigger(
    frequency="day",
    interval=1,
    schedule=RecurrencePattern(hours=3, minutes=15)
)

# create the monitor
model_monitor = MonitorSchedule(
    name="credit_default_monitor_basic",
    trigger=recurrence_trigger,
    create_monitor=monitor_definition
)

poller = ml_client.schedules.begin_create_or_update(model_monitor)
created_monitor = poller.result()

1. 导航到 Azure 机器学习工作室。

2. 转到你的工作区。

3. 从“管理”部分选择“监视”

4. 选择 添加 。

   

5. 在“基本设置”页上，使用“(可选)选择模型”来选择要监视的模型。

6. 如果模型部署到 Azure 机器学习联机终结点，应该会自动填充“(可选)选择启用了数据收集的部署”下拉列表。 从下拉列表中选择部署。

7. 在“(可选)选择训练数据”框中，选择要用作比较参考的训练数据。

8. 在“监视名称”中输入监视名称，或者保留默认名称。

9. 请注意，已为你选择虚拟机大小。

10. 选择你的“时区”。

11. 选择“定期”或“Cron 表达式”计划。

12. 对于“定期”计划，请指定重复频率、日期和时间。 对于“Cron 表达式”计划，请输入 cron 表达式才能监视运行。

    

13. 选择“下一步”来转到“高级设置”部分。

14. 在“配置数据资产”页上选择“下一步”，以保留默认数据集。

15. 选择“下一步”来转到“选择监视信号”页。

16. 选择“下一步”来转到“通知”页。 添加电子邮件地址以接收电子邮件通知。

17. 查看监视详细信息，并选择“创建”以创建监视器。

Azure 机器学习模型监控使用 az ml schedule 安排监视作业。 可使用以下 CLI 命令和 YAML 定义创建现成的模型监视器：

az ml schedule create -f ./out-of-box-monitoring.yaml

以下 YAML 包含现成模型监视的定义。

az ml schedule create -f ./out-of-box-monitoring.yaml