内容安全提供7*24小时的人工审核服务(人机审核和纯人工审核)。人机审核服务可返回机器识别结果,并根据机器识别的结果选择性进行人工审核。纯人工审核服务对全量的内容数据进行人工审核,仅返回人工审核的结果,不返回机器识别结果。

前提条件

  • 已开通内容安全服务。如果您未开通内容安全服务,则无法执行本文操作。
    说明 人工审核服务为收费服务,具体计费方式,请参见内容安全产品定价
  • 已完成内容检测API开发准备工作,请参见内容检测API开发准备
  • 已通过工单联系阿里云技术支持人员对人工审核的数据量、时间范围和审核标准进行沟通。

(推荐)人机审核操作步骤

  1. 登录内容安全控制台
  2. 设置 > 内容检测API页面,配置审核结果回调地址。
    具体操作请参见审核结果回调通知
  3. 根据您的业务场景,调用指定的内容安全服务接口。
    具体说明如下:
    • 图片审核场景

      您需要调用图片同步检测接口,业务流程如下图所示。

      图片

      图片同步检测接口的识别结果会同步返回到业务服务端,人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

    • 文本审核场景

      您需要调用文本同步检测接口,业务流程如下图所示。

      图片

      文本同步检测接口的识别结果会同步返回到业务服务端,人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

    • 视频审核场景

      您需要调用视频异步检测接口,业务流程如下图所示。

      视频

      视频异步检测接口的识别结果会通过异步消息的方式返回到业务服务端(也支持您主动调用结果查询接口获取结果),人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

      人工审核结果会在视频异步检测接口识别完成后返回,如果您在获取结果前调用了停止视频检测接口停止视频异步检测,则人工审核结果不会返回。

    • 音频审核场景

      您需要调用音频异步检测接口,业务流程如下图所示。

      视频

      音频异步检测接口的识别结果会通过异步消息的方式返回到业务服务端(也支持您主动调用结果查询接口获取结果),人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

      人工审核结果会在音频异步检测接口识别完成后返回,如果您在获取结果前调用了取消音频检测接口取消音频异步检测,则人工审核结果不会返回。

纯人工审核操作步骤

  1. 根据文件类型(图片、视频、音频和文本)选择对应的人工审核接口,在接口中设置接收人工审核结果的回调地址(callback信息)。
  2. 提交内容进行人工审核,等待人工审核结果返回再进行业务处理,业务流程如下图所示。人工

人工审核的接口,请参见图片人工审核文本人工审核