数据流是数据索引、生命周期及监控的管理实体。在实际应用中,您可以把同一项目、产品或环境中数据按照日志和指标维度进行分类,并存储在Elasticsearch Serverless服务中进行管理。本文介绍如何创建、编辑和删除数据流。

前提条件

  • 已创建应用。具体操作请参见应用管理
  • 拥有Elasticsearch Serverless应用的管理权限,具体操作请参见为RAM用户授权
  • 准备好数据流中数据,并按照日志和指标维度进行分类。

进入数据流管理页面

  1. 登录阿里云Elasticsearch控制台
  2. 在顶部菜单栏,选择地域。
  3. 在左侧导航栏,单击Elasticsearch Serverless服务
  4. 在左侧导航栏,单击应用管理
  5. 在应用列表中,单击目标应用名称。
  6. 在左侧导航栏,选择数据管理 > 数据流管理,系统默认进入数据流管理页签。

创建数据流

  1. 进入数据流管理页面
  2. 数据流管理页签,单击创建数据流
  3. 创建数据流页面,输入或选择数据流信息。
    参数说明
    数据流名称数据流的名称,仅支持小写字母、数字和连字符(-),必须以小写字母和数字开头和结尾,名称长度为3~64个字符。
    数据保存时间数据流中数据的保存时间。范围为1~3650,单位为天。
    数据流类型数据流的类型,支持:
    • 日志:按日志数据类型存储。
    • 指标:按时序数据类型存储。时序数据由指标标识、指标集合和时间戳组成,相同指标标识的数据组成时间线。
    指定字段查询日志类型的数据流支持自定义配置字段查询。相关参数说明如下:
    • 字段名称
      • 同一级名称不可重复。
      • 不支持非法字符'.\/s
      • 最多不超过256个字符。
      • 不支持配置以下字段(避免与元字段冲突):_ttl_feature_meta_size_ignored_timestamp_versionml__incremental_id _routing_doc_count_seq_no_source_id_uid_index _all_analyzer_parent_data_stream_timestamp_type_field_names
    • 字段类型:支持的字段类型包括date、text、long、integer、short、byte、double、float、json、object、keyword、constant_keyword、wildcard。
      重要
      • 类型为json的字段,嵌套层数上限为10个。
      • 字段个数上限为1000,不同级字段总数上限为1500。
    • 开启搜索:启用后,会对该字段构建索引用于检索。
    • 大小写敏感:仅支持text类型字段配置,启用后字段大小写敏感,需要严格按照大小写输入字段名称。
    • 分词符:仅支持text类型字段配置,单击新增,可在弹出框中配置分词符。
    • 开启聚合:启用后,可以对字段值做统计分析,会增加索引存储。
      说明 text类型的字段不支持开启聚合。
    时间字段日志类型的数据流支持指定时间字段。配置字段查询时,支持指定字段类型为date类型的字段为时间字段。
    重要
    • 时间字段默认为UTC时间。仅支持Elasticsearch默认格式,即strict_date_optional_timeepoch_millis,例如2017-05-18T10:26:10.488Z1667219529025,详细信息请参见Date field typeBuilt In Formats
    • 已被指定为时间字段的字段不支持删除。
    采样精度配置指标类型的数据流支持通过配置采样精度,灵活调整读写数据的精度,实现性能和查询效果的平衡。您可以根据需求选择指标采样精度,配置会作用于rollover后的新索引,在旧索引不再写入数据时生效。
    单击添加时间间隔规则,您可以添加多条采样规则,最多支持5条。相关配置参数说明如下:
    • 时间间隔(对应DownSample配置中的interval):支持20秒、1分钟、10分钟、60分、1天,具体以控制台为准。不同规则的时间间隔不能重复。
      重要 指标采样时间间隔越短,会带来更高的查询延迟,请按需配置。
    • 单独指定数据保存时间(对应DownSample配置中的ILM setting):为时间间隔规则下生成的新索引设置特定保存时间。默认未开启,表示继承指标数据流数据的保存时间。开启后可自定义数据的保存时间,单位:天,取值范围:1~3650。

    时间间隔规则添加后,如果不再需要,可单击规则右侧的删除,删除对应规则。

  4. 单击确定
    数据流创建成功后,您可在数据流列表中查看创建成功的数据流。数据流的相关参数说明如下。
    参数说明
    数据流名称创建时填入的数据流名称。
    数据流类型创建时选择的数据流类型。
    存储用量当前数据流所占的存储用量,每60秒更新一次。
    文档数当前数据流接入的文档数量,每60秒更新一次。
    创建时间数据流创建的时间。
    您还可以完成以下操作:
    • 搜索数据流

      数据流列表默认展示当前应用的所有数据流,您可以通过搜索功能,快速定位到需要查看的某个或某些数据流。

      您可以通过数据流名称进行搜索,支持模糊匹配。搜索数据流
    • 刷新应用

      在数据流列表右上角,单击刷新图标图标,查看应用数据流的实时存储大小等信息。

编辑数据流

  1. 进入数据流管理页面
  2. 在数据流列表中,单击目标数据流右侧操作列下的修改
  3. 修改数据流面板中,修改数据流信息。
    系统仅支持修改以下信息:
    • 数据保存时间:支持修改数据的保留时间,取值范围为1~3650天。
    • 日志类型数据流:
      • 指定字段查询:支持增删改指定查询的字段。
      • 时间字段:支持修改时间字段,字段必须为date类型。
    • 指标类型数据流:

      采样精度配置:支持增删改采样精度配置。

  4. 单击确定

删除数据流

重要 数据流删除后,数据将无法恢复,请谨慎操作。
  1. 进入数据流管理页面
  2. 在数据流列表中,单击目标数据流右侧操作列下的删除
  3. 在提示框中,单击确认