OSS违规检测的风险库通过收集自助审核的回流信息,搭建系统审核白名单、黑名单,为相同文件的检测提供依据。您也可以搭建自定义风险库用于风险防控。本文介绍了使用自定义风险图库的具体操作。

背景信息

目前,风险库管理只支持图库管理。OSS违规检测的图片结果经自助审核后自动回流到系统图库(即系统黑白名单)。审核违规的图片回流到对应检测场景(鉴黄、暴恐、广告)的系统黑名单,审核正常的图片回流到对应检测场景(鉴黄、暴恐、广告)的系统白名单。下图显示了对应检测场景的系统黑名单和白名单。
系统图库

系统黑白名单在下次检测时生效。系统黑名单中的图片在下次检测时被判为违规;系统白名单中的图片在下次检测时被判为正常。您可以管理系统黑白名单的文件,如添加或删除图片,用于风险防控。修改后的黑白名单在15分钟内生效。

除了系统黑白名单外,您还可以创建最多10个自定义风险图库。自定义图库支持创建对应检测场景(鉴黄、暴恐、广告)的疑似名单,引导OSS违规检测对名单中图片判定为疑似。

管理系统图库

  1. 登录云盾内容安全控制台
  2. 前往OSS违规检测 > 风险库管理页面。
  3. 自定义图库页签下,定位到要操作的系统图库,单击其操作列下的管理
  4. 图库管理页面,根据需要执行以下操作:
    • 根据风险图片ID、添加时间范围查询图片。
    • 单击图片,打开图片的详细信息页面,查看近期命中数量、添加时间、风险图片ID等信息。
      详细信息
    • 单击选择文件,上传图片到图库。
      说明 支持上传.png、.jpg、.jepg、.bmp格式的图片文件。单个图片文件的大小需小于5M。一次最多上传20张图片。

      图库管理
    • 单击图片下的删除,删除图片;选中多张图片后,单击批量删除,批量删除图片。

创建自定义图库

  1. 登录云盾内容安全控制台
  2. 前往OSS违规检测 > 风险库管理页面。
  3. 自定义图库页签下,单击创建图库
  4. 创建图库对话框中,完成以下配置,并单击确认
    配置项 说明
    名称 为图库命名。
    使用场景 选择图库的使用场景,可选值:
    • 鉴黄
    • 暴恐
    • 广告
    识别结果 选择图库的用途,可选值:
    • 黑名单
    • 疑似名单
    • 白名单
    BizType 选择图库应用的业务场景。
    说明 只有没有Biztype属性的风险图库会在OSS违规检测场景中生效。

    创建图库
    成功创建图库。您可以在图库列表中看到新建的图库。新建图库即刻生效。您可以在图库列表中对新建图库执行以下操作:
    • 停用/启用图库
    • 修改图库信息
    • 删除图库
    • 管理图库内容

    图库操作
  5. 定位到新建的图库,单击其操作列下的管理
  6. 图库管理页面,单击选择文件,在图库中添加图片。
    图库管理