停用词干预词典

使用介绍

目前支持对系统内置的停用词词典进行人工干预。用户实现干预操作的过程通常有以下四步:

  1. 创建停用词干预词典。用户通过搜索算法中心--->召回配置--->词典管理,进入查询分析干预词典页后,点击页面右上角的“创建”。选择了词典类型后,为词典命名,干预词典创建完成,词典会出现在页面的词典列表中。

  2. 新增和管理干预词典内的干预词条。词典创建完成后,在列表中点击词典名称或点击词典对应的“词条管理”,即可进入到干预词典的详情页。用户可在详情页内进行干预词条的新增和管理。用户可进行两种类型的干预,-添加停用词:添加一个停用词后,如果查询的Query中分词后有term为添加的这个停用词,在召回时该term将不参与召回。-屏蔽停用词:屏蔽一个停用词后,如果查询的Query中分词后有term为屏蔽的这个停用词,在召回时该term将正常参与召回。

  3. 使用干预词典。创建并填充完成停用词干预词典后,可在任意应用的查询规则内选择使用。

  4. 干预词典效果测试和上线。查询分析规则使用了干预词典后,应用到线上之前建议先进行搜索效果测试,评估效果是否符合干预预期。

实战演练

业务场景:某电商导购类业务在OpenSearch的应用实例中配置使用了查询分析规则,规则包含停用词功能,但是在线上发现了badcase,于是决定使用干预功能。

badcase:用户搜索Query“海南的香蕉”,返回的结果寥寥无几,因为字段内容只包含了“海南,香蕉”关键词。

问题诊断:原因之一是Query中的“的”没有被系统识别成停用词。

解决方案:新建停用词干预词典,在词典中把“的”添加为停用词,再将该停用词干预词典应用在线上使用的查询分析规则中。

操作步骤

1.在控制台—->搜索算法中心—->召回配置—->词典管理,创建停用词词典:

11

填写“名称”,词典类型选择“停用词”

222.在新建的停用词干预词典里新增干预词条,例:此处在停用词栏填“的”,干预类型选择“添加”

33

3.在查询分析界面把刚刚创建的“停用词干预词典”先应用在一个未上线的查询分析规则中,以便进行搜索效果测试:

4

4.搜索测试是否符合预期效果。发现搜索“海南的香蕉”时,如预期召回了“海南香蕉”结果:

6

注意事项

  • 词典类型和名称在创建后均不可修改。

  • 新增干预词条时,填写的停用词不应与干预列表内已干预过的停用词重复。

  • 同一干预词典可以被多个查询分析规则使用。

  • 由于目前的干预词典是基于系统内置词典的补丁式干预,所以词典使用时会默认勾选使用系统内置词典。

  • 被任一查询规则(不论是否上线)使用的干预词典不能被删除,想要删除需要首先解除使用。

功能限制

  • 停用词干预词典一共可以创建20个。

  • 每次新增停用词干预词条时,只支持填写一个停用词。

  • 每个停用词词典最多创建1000个干预词条。

  • 停用词干预词条按照分词后的item进行匹配生效。例如,将“呢”干预添加成为停用词,那么查询“什么面霜好呢”时,“呢”不会参与召回。

  • 添加的干预内容均会进行大小写和全半角归一化处理,其中大写字母会归一化为小写,全角会归一化为半角。