文档

自定义图库

更新时间:

内容安全默认依据阿里巴巴全局风险图库为您提供检测服务,可以满足大部分的常规检测需求。为了使检测结果更贴合您的实际业务,内容安全也支持自定义图库。您可以使用自定义图库来管理需要针对性地拦截、放行、人工审核的图片,应对突发的管控需求。

背景信息

根据用途不同,自定义图库分为黑名单、白名单、疑似名单。在检测中应用自定义图库后,若被检测图片命中图库中的样本,则会被打上图库对应的识别结果标签。黑名单图库对应的识别结果是违规(拦截),白名单对应正常(放行),疑似名单则对应疑似(人工审核)。自定义图库包括系统回流图库和用户创建图库。
  • 系统回流图库由您的自助审核记录自动生成,默认应用于所有同类场景的图片检测。您可以管理系统回流图库中的图片,不可以操作系统回流图库,例如停用或删除图库。
  • 用户创建图库由您自行添加,可用于某次检测或某类检测场景。您可以管理用户创建图库中的图片,也可以操作用户创建图库。
说明 您可以创建10个自定义图库(不含系统回流图库),且在每个图库中添加最多10000张样本图片。
下文介绍了在内容安全控制台管理内容检测API自定义图库的操作方法。除了控制台操作,您还可以通过API接口或SDK完成相关操作。更多内容,请参见:

操作步骤

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择机器审核 > 风险库管理
  3. 风险库管理页面,单击自定义图库页签后,单击创建图库
  4. 创建图库对话框,请参考下表完成图库配置,并单击确定
    表 1. 创建图库参数说明表
    配置项说明
    名称为图库命名。名称不超过20个字符。
    使用场景选择图库的使用场景,取值:
    • 鉴黄:图片、视频鉴黄(scenes包含porn)。
    • 暴恐:图片、视频暴恐涉政识别(scenes包含terrorism)。
    • 广告:图片、视频图文违规识别(scenes包含ad)。
    • 不良场景:图片、视频不良场景识别(scenes包含live)。
    识别结果选择图库的用途,取值:
    • 风险名单:若命中图库中样本,则机审结果返回违规。
    • 疑似名单:若命中图库中样本,则机审结果返回疑似。
    • 可信名单:若命中图库中样本,则机审结果返回正常。
    BizTypeBizType允许您根据不同的业务需求配置并应用不同的图库,例如使用BizType指定在某次检测中应用图库。BizType生效逻辑如下:
    • 图库设置BizType为“A”,检测时API中传递了BizType为“A”,则检测时只会使用BizType为“A”的图库(前提是图库已启用)。
    • 其他情况下,检测均会使用所有已启用的图库。
    说明 包含Biztype属性的风险图库不适用于OSS违规检测。
    成功创建图库,已创建图库默认启用。
  5. 自定义图库页签,单击指定图库右侧操作列下的管理
    自定义图库页签下显示所有自定义图库,其中系统回流图库的名称前有系统标识,且按照使用场景_FEEDBACK_WHITE/BLACK命名。例如,LIVE_FEEDBACK_BLACK是由系统回流生成的用于不良场景的黑名单图库。
  6. 图库管理页面,您可以根据需要执行如下操作。
    说明 在图库中新增、删除图片样本,大约需要15分钟生效。
    • 根据风险图片ID时间范围样本ID查询图片。
    • 单击图片,展开图片的详细信息面板,查看近期命中数量、添加时间、风险图片ID等信息。
    • 单击选择文件,上传图片到图库。
      说明 支持上传PNGJPGJEPGBMP格式的图片,单个文件需小于5 MB,一次最多上传20张图片。
    • 单击图片下的删除,删除图片;选中多张图片后,单击批量删除,批量删除图片。

相关操作

对于自定义图库(非系统回流图库),您可通过自定义图库页签中操作列下的删除编辑停用对目标图库进行操作。

  • 本页导读 (0)
文档反馈