内容安全默认依据阿里巴巴全局风险图库为您提供检测服务,可以满足大部分的常规检测需求。为了使检测结果更贴合您的实际业务,内容安全也支持自定义图库。您可以使用自定义图库来管理需要针对性地拦截、放行、人工审核的图片,应对突发的管控需求。

背景信息

根据用途不同,自定义图库分为黑名单、白名单、疑似名单。在检测中应用自定义图库后,若被检测图片命中图库中的样本,则会被打上图库对应的识别结果标签。黑名单图库对应的识别结果是违规(拦截),白名单对应正常(放行),疑似名单则对应疑似(人工审核)。自定义图库包括系统回流图库和用户创建图库。
  • 系统回流图库由您的自助审核记录自动生成,默认应用于所有同类场景的图片检测。您可以管理系统回流图库中的图片,不可以操作系统回流图库,例如停用或删除图库。
  • 用户创建图库由您自行添加,可用于某次检测或某类检测场景。您可以管理用户创建图库中的图片,也可以操作用户创建图库。
说明 您可以创建10个自定义图库(不含系统回流图库),且在每个图库中添加最多10000张样本图片。

内容检测API、OSS违规检测、站点检测均支持自定义图库,且OSS违规检测和内容检测API的自定义图库互通。在OSS违规检测中,自定义图库适用于以下场景:图片/视频鉴黄、图片/视频涉政暴恐识别。

下文介绍了在内容安全控制台管理OSS违规检测自定义图库的操作方法。

管理系统回流图库

  1. 登录云盾内容安全控制台
  2. 在左侧导航栏,单击OSS违规检测 > 风险库管理
  3. 打开自定义图库页签,定位到要操作的系统回流图库,单击其操作列下的管理
    自定义图库页签下显示所有自定义图库,其中系统回流图库的名称前有系统标识,且按照“使用场景_FEEDBACK_WHITE/BLACK”命名。例如,PORN_FEEDBACK_BLACK是由系统回流生成的用于鉴黄场景的黑名单图库。系统回流图库
  4. 图库管理页面,根据需要执行以下操作。
    说明 在图库中新增、删除图片样本,大约需要15分钟生效。
    • 根据风险图片ID、添加时间范围查询图片。
    • 单击图片,打开图片的详细信息页面,查看近期命中数量、添加时间、风险图片ID等信息。详细信息
    • 单击选择文件,上传图片到图库。
      说明 支持上传.png、.jpg、.jepg、.bmp格式的图片文件。单个图片文件的大小需小于5M。一次最多上传20张图片。
      图库管理
    • 单击图片下的删除,删除图片;选中多张图片后,单击批量删除,批量删除图片。

创建自定义图库

  1. 登录云盾内容安全控制台
  2. 在左侧导航栏,单击OSS违规检测 > 风险库管理
  3. 打开自定义图库页签,单击创建图库创建图库
  4. 创建图库对话框中,完成图库配置,并单击确认。图库的配置描述见下表。
    配置项 说明
    名称 为图库命名。名称不超过64个字符。建议设置为可读性较强的中文名称。
    使用场景 选择图库的使用场景,取值:
    • 鉴黄:图片/视频鉴黄(scenes包含porn)
    • 暴恐:图片/视频暴恐涉政识别(scenes包含terrorism)
    • 广告:图片/视频图文违规识别(scenes包含ad)
    • 不良场景:图片/视频不良场景识别(scenes包含live)
    识别结果 选择图库的用途,取值:
    • 黑名单:若命中图库中样本,则机审结果返回违规。
    • 疑似名单:若命中图库中样本,则机审结果返回疑似。
    • 白名单:若命中图库中样本,则机审结果返回正常。
    BizType BizType允许您根据不同的业务需求配置并应用不同的图库,例如使用BizType指定在某次检测中应用图库。BizType生效逻辑如下:
    • 图库设置BizType为“A”,检测时API中传递了BizType为“A”,则检测时只会使用BizType为“A”的图库(前提是图库已启用)。
    • 其他情况下,检测均会使用所有已启用的图库。

    请根据需要进行设置。建议您通过工单联系我们指导配置。

    说明 包含Biztype属性的风险图库不适用于OSS违规检测。
    创建图库配置
    成功创建图库,已创建图库默认启用。
  5. 管理图库内容。回到图库列表中,选择目标图库,单击其操作列下的管理,在图库管理页面管理图库内容。
    • 根据风险图片ID、添加时间范围查询图片。
    • 单击图片,打开图片的详细信息页面,查看近期命中数量、添加时间、风险图片ID等信息。详细信息
    • 单击选择文件,上传图片到图库。
      说明 支持上传.png、.jpg、.jepg、.bmp格式的图片文件。单个图片文件的大小需小于5M。一次最多上传20张图片。
      图库管理
    • 单击图片下的删除,删除图片;选中多张图片后,单击批量删除,批量删除图片。
  6. 删除、修改、停用图库。回到图库列表中,选择目标图库,单击其操作列下的删除修改停用可以分别删除目标图库、修改目标图库的配置、停用目标图库。