文档

针对无标签数据创建智能巡检任务

更新时间:

日志服务智能异常分析App提供模型训练和实时巡检功能,支持对日志、指标等数据进行自动化、智能化、自适应地模型训练和异常巡检。本文介绍如何为无标签的数据,创建模型训练任务和实时巡检任务。

数据样例

本文基于如下数据样例,创建模型训练任务和实时巡检任务。image..png

步骤一:创建模式巡检任务

  1. 登录日志服务控制台
  2. 进入创建任务页面。

    1. 日志应用区域的智能运维页签下,单击智能异常分析

    2. 实例列表中,单击目标实例。

    3. 在左侧导航栏中,选择分析任务> 智能巡检>模型训练

    4. 模型训练任务区域,单击立即创建

  3. 创建模型训练作业配置向导的基础信息步骤中,完成如下配置,然后单击下一步image..png

    参数

    说明

    任务名

    模型训练任务的名称。

    Project

    选择源日志库所在的Project。

    日志库类型

    源数据所存储的位置,本文选择日志库

    源数据库

    选择源数据所在的日志库。

    角色

    如果您在创建实例时已完成授权,则此处自动显示AliyunLogETLRole角色的角色标识。

    目标日志库

    目标日志库,固定为internal-ml-log。

  4. 创建模型训练作业配置向导的数据特征配置步骤中,完成如下配置。

    1. 数据特征配置页签下,完成如下配置。

      本案例针对无异常标签的数据,因此需要通过异常注入方式先获取异常标签。

      重要

      需要在SQL语句中添加LIMIT子句,避免数据提取不完整。

      f29aff92fa8d3fd7db3dc6d00f02d5f6..png

      参数名称

      说明

      时间

      源数据中用于标识时间列的字段。

      粒度

      数据的观测间隔。单位为秒。取值范围为5~3600。

      实体

      源数据中用于标识具体实体的字段。

      特征

      源数据中用于标识具体特征数据的字段。

      异常注入

      选择是否保存注入的异常数据。

      • 保存将注入的异常数据保存到源数据所在的Project下名为<源Logstore名称>_withlabel的Logstore中。

        例如源数据所在Project为sls-test-demo,Logstore为sls-test-logstore,则注入的异常数据将存储到sls-test-demo Project下,名为sls-test-logstore_withlabel的Logstore。

      • 不保存:不保存注入的异常数据。

      异常率

      注入的异常数量占数据总量的比例,取值范围为[0.00001,0.01]。

      注入的异常数量会随机均匀分布在整个数据集上。

      异常类型

      异常类型包括极值异常、趋势异常、漂移异常、方差异常。更多信息,请参见异常类型说明

  5. 创建模型训练作业配置向导的算法配置步骤中,完成如下配置,然后单击完成

    目前,只支持使用监督异常检测算法。b70d1e84e256475be8085a875c028fda..png

    调用配置包括起始时间(训练集开始时间)、结束时间(验证集的开始时间)、模型的训练集的结束时间(验证集的结束时间),三种时间关系如下图所示。image

步骤二:查看训练结果

任务运行一段时间后,您可以在模型训练任务列表中,单击目标任务,查看训练结果。详细的训练结果数据说明,请参见智能巡检(模型训练)

查看任务信息

模型训练作业详情页面,查看任务运行的阶段,包括读取训练数据 > 训练数据读取完成 > 开始模型训练 > 模型训练完成 > 读取验证数据 > 验证数据读取完成 > 开始预测验证数据 > 预测完成,生成报告 > 开始保存模型 > 保存模型完成 > 任务完成,点击查看总时间。image..png

查看实体信息

实体信息列表中,单击目标实体,然后单击查看该实体的任务详情后,系统将展示目标实体的详细信息。具体说明如下:

  • 单个实体进展信息统计图表中展示该实体的进展信息,包括开始特征工程 > 特征工程完成 > 开始模型训练 > 模型训练完成 > 开始训练预测 > 训练预测完成 > 开始验证预测 > 验证预测完成 > 生成报告中 > 生成报告完成。image..png

  • 时间配置统计图表中展示模型训练相关的时间信息。image..png

  • 验证集评价指标统计图表中展示aucmacro_f1precesionrecall指标。d29106a9988bfd215ccc567341bbff56..png

    指标

    说明

    auc

    AUC值为假阳性率和真阳性率为轴的曲线下面积大小。

    • 假阳性率=实际为正常的样本中被模型检测为异常的样本数量/实际为正常的样本数量。

    • 真阳性率=实际为异常的样本中被模型检测为异常的样本数量/实际为异常的样本数量,等同于和recall。

    macro_f1

    精确率和召回率的调和平均值。计算公式:F1 = 2 * (precision * recall) / (precision + recall)

    此处采集Macro Average宏平均方式,具体是在计算均值时使每个类别具有相同的权重,最后结果是每个类别的指标的算术平均值。

    precesion

    精确率。计算公式:模型检测为异常的样本中实际也为异常的样本数量/被检测为异常的样本数量

    recall

    召回率,计算公式:实际为异常的样本中被模型检测为异常的样本数量/实际为异常的样本数量

  • 数据统计值统计图表中展示训练集异常点数量、训练集长度、验证集异常点数量和验证集长度信息。image..png

  • 数据集结果可视化统计图表可视化展示训练集和验证集数据的变化情况,您可以通过鼠标拖动查看更为精细的曲线状态。

    蓝色区域代表训练集部分,红色区域代表验证集部分。其中,红竖线表示异常点,与红色竖线重叠的绿线表示为该点预测的异常分数。

    默认情况下,异常分数大于0.5的点标为红色。您可以在本页面的异常分数文本框设置要异常分数阈值。7bfcb86fe6f5933a98f3444008461752..png

    字段

    说明

    train_value

    训练集中某个特征的值。

    train_label

    训练集异常标签。

    train_score

    训练集预测异常分数。

    train_point_value

    等同于train_value,为了便于在图中标记异常点。当训练集预测异常分数大于阈值时,图中train_point_value 对应的点会被标记为红色。

    默认情况下,阈值范围为[0.5,1]。您可以在本页面的异常分数文本框设置异常分数阈值。

    val_value

    验证集中某个特征的值。

    val_label

    验证集异常标签。

    val_score

    验证集预测异常分数。

    val_point_value

    等同于val_value,为了便于在图中标记异常点。当验证集预测异常分数大于阈值时,图中val_point_value对应的点会被标记为红色。

    默认情况下,阈值范围为[0.5,1]。您可以在本页面的异常分数文本框设置异常分数阈值。

  • 异常事件列表统计图表中展示异常事件的详细信息。image..png

步骤三:创建预测任务

  1. 在模型训练任务详情页面的右上角,单击创建预测任务

  2. 创建预测任务面板中,完成如下配置,然后单击确定image..png

    参数名称

    说明

    任务名

    预测任务名称。

    实体id

    选择待实时巡检的实体。

    起始时间

    对应模型训练任务配置中的结束时间。目前,不支持自定义配置。

    数据延时时长

    根据您数据写入的延时设置延时时长。例如您当前写入Logstore的数据存在60秒延迟,则此处最少设置为60秒。

    是否发生告警

    选择后,支持对巡检结果设置告警。

    告警策略

    告警策略用于合并、静默和抑制已产生的告警。

    • 选择极简模式普通模式时,您无需配置告警策略。日志服务默认使用SLS内置动态告警策略(sls.builtin.dynamic)进行告警管理。

    • 选择高级模式时,您可以选择内置的或自定义的告警策略进行告警管理。如何创建告警策略,请参见创建告警策略

    行动策略

    行动策略用于控制告警通知渠道和频率等。

    • 告警策略选择为极简模式时,您只需配置行动组即可。

      您配置行动组后,日志服务自动为您创建一个名为规则名称-行动策略的行动策略。由该告警监控规则触发的所有告警都通过该行动策略发送通知。如何配置,请参见通知渠道说明

      重要

      您可以在行动策略管理页面,修改该行动策略。具体操作,请参见创建行动策略。如果您在修改行动策略时添加了判断条件,则此处的告警策略将自动变更为普通模式

    • 告警策略选择为普通模式高级模式时,您可以选择内置的或自定义的行动策略进行告警通知。如何创建行动策略,请参见创建行动策略

      其中,您选择告警策略选择为高级模式时,还可以开启或关闭自定义行动策略。更多信息,请参动态行动策略机制

步骤四:查看巡检结果

创建巡检任务后,您可以在实时巡检任务列表中,单击目标任务,查看巡检任务详情。详细的巡检结果数据说明,请参见智能巡检(实时监测)image..png

  • 本页导读 (1)
文档反馈