使用自定义图库,您可以为具体的检测场景定义要直接拦截或放行的图片。本文介绍了在云盾内容安全控制台管理自定义图库的具体操作。

背景信息

自定义图库分为黑名单、白名单、疑似名单三种类型,您可以将已知的要拦截的、要直接放行的、要人工审核的图片样本添加到相应图库中,系统在检测的时候会匹配对应场景的图库,应对突发性的管控需求。自定义图库针对具体的检测场景生效,目前仅适用于智能鉴黄、暴恐涉政、图片广告三种场景。
在使用自定义图库时,您需要创建一个图库,指定其类型和适用的检测场景,然后管理其中的图片样本。自定义图库生效后,当您调用具体场景的检测服务时,
  • 若系统检测到黑名单库中的样本或类似样本,则suggestion返回block
  • 若系统检测到白名单库中的样本或相似样本,则suggestion 返回pass
  • 若系统检测到疑似名单库中的样本或相似样本,则suggestion 返回review
除了在控制台管理自定义图库外,您还可以通过API接口或SDK完成相关操作:

操作步骤

  1. 登录云盾内容安全控制台
  2. 前往内容检测API > 风险库管理页面。
  3. 打开自定义图库页签,并单击创建图库
    创建图库
  4. 创建图库对话框中,完成图库配置,并单击确认。图库的配置描述见下表。
    配置项 说明
    名称 根据您的业务为图库命名。建议您设置可读性较强的中文名称,且不超过64个字符。
    使用场景 图库的使用场景,取值:
    • 鉴黄
    • 暴恐
    • 广告
    说明 该场景值对应API调用时的scenes参数。假设,该图库适用于鉴黄场景,则使用场景选择鉴黄;那么,在调用图片或者视频鉴黄服务时,默认启用该场景的图库。
    识别结果 图库的类型,取值:
    • 黑名单
    • 疑似名单
    • 白名单
    BizType BizType属于高级功能,目的是能够根据不同的业务需求配置不同的图库,请根据需要进行设置(建议通过工单联系我们指导配置)。BizType生效逻辑如下:
    • 图库设置BizType为“A”,检测时API中传递了BizType为“A”,则检测只会使用biztype为“A”的图库(前提是库已开启)。
    • 其他情况下,检测均会使用所有已开启的所有图库。

    创建图库配置
    成功创建图库,已创建图库默认启用。
  5. 管理图库。
    1. 回到图库列表中,选择目标图库,单击其操作列下的管理
    2. 图库管理页面,维护图库内的图片:
      • 单击选择文件,上传本地图片到图库。
        说明
        • 支持上传png、jpg、jpeg、bmp格式的图片文件,且单个文件需要小于50M,一次最多上传20张图片。
        • 一个图库下最多可以添加10000张样本图片。
      • 勾选不需要的图片,单击批量删除,删除图片。

      图库管理
      新增、删除图片样本后,约需3分钟才会生效。
  6. 删除、修改、停用图库。回到图库列表中,选择目标图库,单击其操作列下的删除修改停用可以分别删除目标图库、修改目标图库的配置、停用目标图库。