fielddata内存使用率高问题的排查与处理方法

背景信息

大量Elasticsearch（ES）集群运维案例显示，fielddata内存使用率越小越好，fielddata不需要占用明显的堆内存。但在Elasticsearch（ES）运维场景中，经常会遇到fielddata内存使用率高，严重时导致整个集群不可用的监控场景。

问题场景

fieldata缓存主要包含field data和global ordinals，占用fielddata的业务场景主要包含：

• 针对_id主键做排序、agg查询和脚本查询操作。

  解决方案：

  • Elasticsearch官方文档中指出禁止对_id进行聚合、排序和脚本操作，建议将_id数据复制到开启doc_values的字段进行对应操作。

  • Kibana Discover通过_id查询数据时，下拉提示功能会自动触发聚合。

    

    建议在Kibana > StackManagement > 高级设置中关闭filterEditor:suggestValues，避免在Kibana中根据主键进行搜索时，执行大量_id字段的聚合分析。

    

• 对开启fielddata的text类型字段进行聚合、排序和脚本查询操作。

  解决方案：

  text字段默认关闭fielddata，开启后可进行聚合、排序和脚本查询操作。如果加载高基数text字段，fielddata会占用大量的堆内存，并且堆内存占用是永久的，建议将字段类型改成keyword。

• keyword和ip等类型的字段，进行terms aggregations和composite aggregations等查询。

• join字段的parent和child文档aggregations。

问题排查

您可以通过高级监控报警、fielddata API和热线程三种方式，查看fileddata内存使用率是否过高。

高级监控报警

1. 登录阿里云Elasticsearch控制台。

2. 在左侧导航栏，单击高级监控报警。

3. 在高级监控报警页面，选择监控可视化 > 指标监控。

4. 在默认基础指标页签中，查看fielddata内存使用指标。

   

fielddata API

1. 登录目标阿里云Elasticsearch实例的Kibana控制台，根据页面提示进入Kibana主页。
   登录Kibana控制台的具体操作，请参见登录Kibana控制台。

   说明 本文以阿里云Elasticsearch 7.10.0版本为例，其他版本操作可能略有差别，请以实际界面为准。
2. 单击右上角的Dev tools。

3. 在Console页签中，执行以下命令，查看各个节点的fielddata内存占用情况（fielddata.memory_size）。

   GET _cat/nodes?v&h=ip,heap.percent,heap.current,heap.max,ram.current,ram.percent,fielddata.memory_size

   预期结果如下。

GET _nodes/hot_threads

问题分析

您可以通过fielddata API和日志两种方式，分析导致fielddata内存占用高问题的原因。

fielddata API

GET _cat/fielddata?v&s=size:desc

日志聚焦查询

解决方案