在您出现突发性的管控需求,而模型更新时间较长,暂时无法满足需求时,内容安全提供了自定义词库功能,帮助您达到紧急止血的目的。自定义图库支持将指定关键词加入到黑名单,加入黑名单的样本以及类似样本,后续算法返回的suggestion都将为block。

背景信息

操作步骤

  1. 登录云盾内容安全控制台
  2. 前往设置 > 内容检测API页面,定位到自定义词库功能区。

  3. 单击创建词库,在创建词库对话框中完成以下操作:

    1. 选择使用场景:文本反垃圾、语音反垃圾、图片广告。
      说明
      该场景参数对应于API调用时通过scenes传入的参数。例如,假如该词库适用于文本反垃圾,则使用场景选择文本反垃圾;那么,在您调用文本(传入scenes)或文件检测服务(传入textScenes)时,都会默认启用该场景的黑名单。
    2. 按照您的业务命名词库。
    3. 可选: 输入biztype。biztype属于高级功能,请根据需要进行设置。如果设置biztype,则使用biztype调用API时,带有该biztype的自定义图库才会生效。
    4. 单击确定,完成创建。
  4. 管理词库。

    1. 回到词库列表中,选择目标词库,单击其操作列下的管理词库
    2. 管理词库页面,您可以维护词库内的关键词:
      • 单击新增关键词,按照页面提示在图库中增加要阻截的关键词。
      • 勾选不需要的关键词,单击批量删除,删除关键词;也可以单击不需要的关键词下的删除,单独将其删除。
    3. 已添加的关键词,您可以查看其历史命中次数,也可以使用搜索进行定位。
  5. 删除与修改词库。回到词库列表中,选择对应词库,单击其操作列下的删除修改可以分别删除目标词库和修改目标词库的配置。