在您出现突发性的管控需求,而模型更新时间较长,暂时无法满足需求时,内容安全提供了自定义图库功能,帮助您达到紧急止血的目的。

背景信息

自定义图库分为黑名单和白名单两种:
  • 加入黑名单的样本以及类似样本,后续算法返回的suggestion都将为block
  • 加入白名单的样本以及类似样本,后续算法返回的suggestion都将为pass

操作步骤

  1. 登录云盾内容安全控制台
  2. 前往设置 > 内容检测API页面,并定位到自定义图库功能区。

  3. 单击创建图库,并在创建图库对话框中完成以下操作:

    1. 按照您的业务命名图库。
    2. 选择使用场景:智能监黄、暴恐暴政识别、广告识别。
      说明
      该场景参数对应于API调用时通过scenes传入的参数。例如,假如该图库适用于鉴黄场景,则使用场景选择 智能鉴黄;那么,在您调用图片或者视频鉴黄服务时,都会默认启用该场景的黑白名单。
    3. 选择图库类型:黑名单、白名单、疑似名单。
    4. 可选: 输入biztype。biztype属于高级功能,请根据需要进行设置。如果设置biztype,则使用biztype调用API时,带有该biztype的自定义图库才会生效。
    5. 单击确定,完成创建。
  4. 管理图库。

    1. 回到图库列表中,选择目标图库,单击其操作列下的管理图库
    2. 管理图库页面,您可以维护图库内的图片:
      • 单击选择本地图片,上传图片到图库。
        说明
        支持上传png、jpg、jpeg、bmp格式的图片文件,且单个文件需要小于5M,一次最多上传 20 张图片。
      • 勾选不需要的图片,单击批量删除,删除图片。
  5. 删除与修改图库。回到图库列表中,选择对应图库,单击其操作列下的删除修改可以分别删除目标图库和修改目标图库的配置。