数据流是数据索引、生命周期及监控的管理实体。在实际应用中,您可以把同一项目、产品或环境中数据按照日志和指标维度进行分类,并存储在Elasticsearch Serverless服务中进行管理。本文介绍如何创建、编辑和删除数据流。
前提条件
进入数据流管理页面
- 登录阿里云Elasticsearch控制台。
- 在顶部菜单栏,选择地域。
- 在左侧导航栏,单击Elasticsearch Serverless服务。
- 在左侧导航栏,单击应用管理。
- 在应用列表中,单击目标应用名称。
- 在左侧导航栏,选择数据流管理页签。 ,系统默认进入
创建数据流
- 进入数据流管理页面。
- 在数据流管理页签,单击创建数据流。
- 在创建数据流页面,输入或选择数据流信息。
参数 说明 数据流名称 数据流的名称,仅支持小写字母、数字和连字符(-),必须以小写字母和数字开头和结尾,名称长度为3~64个字符。 数据保存时间 数据流中数据的保存时间。范围为1~3650,单位为天。 数据流类型 数据流的类型,支持: - 日志:按日志数据类型存储。
- 指标:按时序数据类型存储。时序数据由指标标识、指标集合和时间戳组成,相同指标标识的数据组成时间线。
指定字段查询 日志类型的数据流支持自定义配置字段查询。相关参数说明如下: - 字段名称:
- 同一级名称不可重复。
- 不支持非法字符
'
、.
、\
、/
和s
。 - 最多不超过256个字符。
- 不支持配置以下字段(避免与元字段冲突):_ttl、_feature、_meta、_size、_ignored、_timestamp、_version、ml__incremental_id、 _routing、_doc_count、_seq_no、_source、_id、_uid、_index、 _all、_analyzer、_parent、_data_stream_timestamp、_type、_field_names。
- 字段类型:支持的字段类型包括date、text、long、integer、short、byte、double、float、json、object、keyword、constant_keyword、wildcard。重要
- 类型为json的字段,嵌套层数上限为10个。
- 字段个数上限为1000,不同级字段总数上限为1500。
- 开启搜索:启用后,会对该字段构建索引用于检索。
- 大小写敏感:仅支持text类型字段配置,启用后字段大小写敏感,需要严格按照大小写输入字段名称。
- 分词符:仅支持text类型字段配置,单击新增,可在弹出框中配置分词符。
- 开启聚合:启用后,可以对字段值做统计分析,会增加索引存储。说明 text类型的字段不支持开启聚合。
时间字段 日志类型的数据流支持指定时间字段。配置字段查询时,支持指定字段类型为date类型的字段为时间字段。 重要- 时间字段默认为UTC时间。仅支持Elasticsearch默认格式,即
strict_date_optional_time
或epoch_millis
,例如2017-05-18T10:26:10.488Z
或1667219529025
,详细信息请参见Date field type和Built In Formats。 - 已被指定为时间字段的字段不支持删除。
采样精度配置 指标类型的数据流支持通过配置采样精度,灵活调整读写数据的精度,实现性能和查询效果的平衡。您可以根据需求选择指标采样精度,配置会作用于rollover后的新索引,在旧索引不再写入数据时生效。 单击添加时间间隔规则,您可以添加多条采样规则,最多支持5条。相关配置参数说明如下:- 时间间隔(对应DownSample配置中的interval):支持20秒、1分钟、10分钟、60分、1天,具体以控制台为准。不同规则的时间间隔不能重复。重要 指标采样时间间隔越短,会带来更高的查询延迟,请按需配置。
- 单独指定数据保存时间(对应DownSample配置中的ILM setting):为时间间隔规则下生成的新索引设置特定保存时间。默认未开启,表示继承指标数据流数据的保存时间。开启后可自定义数据的保存时间,单位:天,取值范围:1~3650。
时间间隔规则添加后,如果不再需要,可单击规则右侧的删除,删除对应规则。
- 单击确定。数据流创建成功后,您可在数据流列表中查看创建成功的数据流。数据流的相关参数说明如下。
参数 说明 数据流名称 创建时填入的数据流名称。 数据流类型 创建时选择的数据流类型。 存储用量 当前数据流所占的存储用量,每60秒更新一次。 文档数 当前数据流接入的文档数量,每60秒更新一次。 创建时间 数据流创建的时间。 您还可以完成以下操作:- 搜索数据流
数据流列表默认展示当前应用的所有数据流,您可以通过搜索功能,快速定位到需要查看的某个或某些数据流。
您可以通过数据流名称进行搜索,支持模糊匹配。 - 刷新应用
在数据流列表右上角,单击
图标,查看应用数据流的实时存储大小等信息。
- 搜索数据流
编辑数据流
- 进入数据流管理页面。
- 在数据流列表中,单击目标数据流右侧操作列下的修改。
- 在修改数据流面板中,修改数据流信息。系统仅支持修改以下信息:
- 数据保存时间:支持修改数据的保留时间,取值范围为1~3650天。
- 日志类型数据流:
- 指定字段查询:支持增删改指定查询的字段。
- 时间字段:支持修改时间字段,字段必须为date类型。
- 指标类型数据流:
采样精度配置:支持增删改采样精度配置。
- 单击确定。
删除数据流
重要 数据流删除后,数据将无法恢复,请谨慎操作。
- 进入数据流管理页面。
- 在数据流列表中,单击目标数据流右侧操作列下的删除。
- 在提示框中,单击确认。