接入人工审核服务

内容安全提供7*24小时的人工审核服务(人机审核和纯人工审核)。人机审核服务可返回机器识别结果,并根据机器识别的结果选择性进行人工审核。纯人工审核服务对全量的内容数据进行人工审核,仅返回人工审核的结果,不返回机器识别结果。

前提条件

  • 已开通人工审核服务。人工审核服务目前需要通过售后人员开通,如果未开通内容安全服务,控制台不会展示人工审核内容。

    请通过钉钉加入阿里云内容安全问题答疑群聊(群号:35573806)联系售后人员开通服务。加群时请备注您的公司名称+职位类型(研发、产品或者审核),例如XXX公司+研发。

    说明 人工审核服务为收费服务,具体计费方式,请参见内容安全产品定价
  • 已完成内容检测API开发准备工作,请参见内容检测API开发准备

  • 已联系阿里云技术支持人员对人工审核的数据量、时间范围和审核标准进行沟通。

(推荐)人机审核操作步骤

  1. 登录内容安全控制台
  2. 机器审核V1.0 > 设置页面,配置审核结果回调地址。

    具体操作,请参见配置消息通知

  3. 根据您的业务场景,调用指定的内容安全服务接口。

    具体说明如下:

    • 图片审核场景

      您需要调用图片同步检测接口,业务流程如下图所示。

      图片

      图片同步检测接口的识别结果会同步返回到业务服务端,人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

    • 文本审核场景

      您需要调用文本同步检测接口,业务流程如下图所示。

      图片

      文本同步检测接口的识别结果会同步返回到业务服务端,人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

    • 视频审核场景

      您需要调用视频异步检测接口,业务流程如下图所示。

      视频

      视频异步检测接口的识别结果会通过异步消息的方式返回到业务服务端(也支持您主动调用结果查询接口获取结果),人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

      人工审核结果会在视频异步检测接口识别完成后返回,如果您在获取结果前调用了停止视频检测接口停止视频异步检测,则人工审核结果不会返回。

    • 音频审核场景

      您需要调用音频异步检测接口,业务流程如下图所示。

      视频

      音频异步检测接口的识别结果会通过异步消息的方式返回到业务服务端(也支持您主动调用结果查询接口获取结果),人工审核结果会通过回调的方式返回到您配置的审核结果回调地址。

      人工审核结果会在音频异步检测接口识别完成后返回,如果您在获取结果前调用了取消音频检测接口取消音频异步检测,则人工审核结果不会返回。

纯人工审核操作步骤

  1. 根据文件类型(图片、视频、音频和文本)选择对应的人工审核接口,在接口中设置接收人工审核结果的回调地址(callback信息)。

  2. 提交内容进行人工审核,等待人工审核结果返回再进行业务处理,业务流程如下图所示。人工

人工审核的接口,请参见图片人工审核文本人工审核