人工审核增强版API_内容安全(Content Moderation)-阿里云帮助中心

本文介绍了调用人工审核增强版接口进行人工审核的方法，支持图片、文本、音频、视频人工审核。如果您对识别结果的准确率和召回率要求非常高，推荐使用人工审核功能。

说明

使用该服务前，请联系我们的商务经理，进一步确定审核标准与内容范围。调用该接口不会返回机器识别结果，如果您需要机器识别的结果，请调用机器检测服务接口。

接入指引

注册阿里云账号：立即注册，按照操作提示完成账号注册。
开通内容安全人工审核增强版按量付费：请确保您已开通服务，开通不收费，接口接入使用后系统会按使用量自动出账，详情请参见人工审核增强版介绍及计费说明。
创建AccessKey：请确保您已通过RAM创建AccessKey，如果您使用的是子账号AccessKey，您需要通过主账号给子账号赋予AliyunYundunGreenWebFullAccess权限，具体操作，请参见RAM授权。
开发接入：推荐使用SDK方式调用，具体方法请详见人工审核增强版SDK及接入指南。
人工审核增强版异步检测服务包含以下2个接口：
- ManualModeration：提交人工审核异步任务
- ManualModerationResult：获取审核任务结果

提交异步检测任务

使用说明

您可以调用该接口创建人工审核任务。关于如何构造HTTP请求，请参见HTTP构建指南；您也可以直接选用已构造好的HTTP请求，更多信息，请参见接入指南。

业务接口：ManualModeration
支持的地域及接入地址：

地域	外网接入地址	内网接入地址

地域	外网接入地址	内网接入地址
华东2（上海）	https://green-cip.cn-shanghai.aliyuncs.com	https://green-cip-vpc.cn-shanghai.aliyuncs.com

计费信息：

该接口为收费接口。关于计费方式，请参见人工审核增强版介绍及计费说明。

返回结果：异步检测任务不会实时返回检测结果，您需要通过callback或者轮询的方式获取检测结果。检测结果最长保留30天。人工审核的返回结果时长根据待审核数据的量而定。
- callback获取审核结果：提交人工审核任务时，在请求参数中传入callback参数，用来自动接收检测结果。更多信息，请参见请求参数。
- 轮询获取审核结果：提交人工审核任务时，无需传入callback参数。提交人工审核任务后，调用结果查询接口获取检测结果。更多信息，请参见获取审核任务结果。
图文音视要求：
- 文本要求：
  - 长文本审核单次文本传入在1万字以内，文本超过限制会报错，建议做分段处理。
- 图片要求：
  - 图片链接支持以下协议：HTTP和HTTPS。
  - 图片支持以下格式：PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC（该格式最长边需小于8192 px）、GIF（取第一帧）、ICO（取最后一图）。
  - 图片大小限制在20 MB以内，高或者宽不能超过16,384 px，且总像素不能超过1.67亿 px。像素建议大于200*200（px），像素过低会影响内容安全检测算法的效果。
  - 图片下载时间限制为3秒内，如果下载时间超过3秒，返回下载超时。
- 音频要求：
  - 支持音频文件格式：MP3、WAV、AAC、WMA、OGG、M4A、AMR。
  - 支持视频文件格式：AVI、FLV、MP4、MPG、ASF、WMV、MOV、RMVB、RM。
  - 支持的音频文件大小限制500MB。
- 视频要求：
  - 视频文件链接支持以下协议：HTTP和HTTPS。
  - 视频文件支持以下格式：AVI、FLV、MP4、MPG、ASF、WMV、MOV、WMA、RMVB、RM、FLASH、TS。
  - 视频大小限制：默认单个视频大小不超过500 MB。如果您的需求超过500 MB，您可以对视频进行分片处理。或者联系工作人员帮您调整大小限制。
- 图片、音频、视频文件检测的时间依赖于文件的下载时间。请保证被检测的文件所在的存储服务稳定可靠，建议您使用阿里云OSS存储服务存储文件。

QPS限制

本接口的单用户QPS限制为100次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。如果您业务量级较大或者有紧急扩容需求需要更大QPS，请联系您的商务经理。

调试

在接入前，您也可以通过阿里云OpenAPI在线调试人工审核增强版的接口，查看调用示例代码及SDK依赖信息，方便概览接口的使用方法和参数。

重要

在线调试能力是基于当前登录账号调用内容安全的API接口，因此调用量会计入账号的收费用量中。

请求参数

关于在请求中必须包含的公共请求参数，请参考接入指南。

请求body是一个JSON结构体，包含以下字段：

名称	类型	是否必选	示例值	描述

名称

类型

是否必选

示例值

描述

Service

String

是

imageManualCheck

人工审核增强版支持的检测服务。取值：

imageManualCheck：图片人工审核
longTextManualCheck：长文本人工审核
voiceFileManualCheck：语音文件人工审核
videoFileManualCheck：视频文件人工审核

ServiceParameters

JSONString

是

内容检测对象的相关参数集。JSON字符串格式，关于每个字符串的描述，请参见ServiceParameters。

表 1. ServiceParameters

名称	类型	是否必选	示例值	描述

名称	类型	是否必选	示例值	描述
url	String	是，二选一：图片、音频、视频请输入url 文本请输入content	https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png	待检测对象的URL，请确保该URL能通过公网访问到，且URL地址长度不超过2048个字符。说明 URL地址中不能包含中文，且一次请求请确保仅传入1条URL。
content	String	是，二选一：图片、音频、视频请输入url 文本请输入content	这是审核文本内容	待检测的文本内容。
dataId	String	否	img123****	检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不超过64个字符，可以用于唯一标识您的业务数据。
callback	String	否	http://www.aliyundoc.com	检测结果回调通知您的URL，支持使用HTTP和HTTPS协议的地址。该字段为空时，您必须定时轮询检测结果。 callback接口必须支持POST方法、UTF-8编码的传输数据，以及表单参数ReqId，Checksum和Content。内容安全按照以下规则和格式设置ReqId，Checksum和Content，调用您的callback接口返回检测结果。 ReqId：提交异步检测任务返回的请求ID。 Checksum：字符串格式，由`用户uid + seed + content`拼成字符串，通过SHA256算法生成。用户UID即阿里云账号ID，可以在阿里云控制台查询。为防篡改，您可以在获取到推送结果时，按上述算法生成字符串，与Checksum做一次校验。说明用户UID必须是阿里云账号的UID，而不是RAM用户的UID。 Content：JSON字符串格式，请自行解析反转成JSON对象。关于Content结果的示例，请参见查询检测结果的返回示例。说明您的服务端callback接口收到内容安全推送的结果后，如果返回的HTTP状态码为200，则表示接收成功，其他的HTTP状态码均视为接收失败。接收失败时，内容安全将最多重复推送16次检测结果，直到接收成功。重复推送16次后仍未接收成功，则不再推送，建议您检查callback接口的状态。
seed	String	否	abc****	随机字符串，该值用于回调通知请求中的签名。由英文字母、数字、下划线（_）组成，不超过64个字符。由您自定义，用于在接收到内容安全的回调通知时校验请求由阿里云内容安全服务发起。说明当使用callback时，该字段必须提供。
cryptType	String	否	SHA256	使用回调通知时（callback），设置对回调通知内容进行加密的算法。内容安全会将返回结果（由用户uid + seed + content拼接的字符串）按照您设置的加密算法加密后，再发送到您的回调通知地址。取值： SHA256（默认）：使用SHA256加密算法。 SM3：使用国密HMAC-SM3加密算法，返回十六进制的字符串，且字符串由小写字母和数字组成。例如，abc经国密SM3加密后返回。

返回数据

名称		类型	示例值	描述
Code		Integer	200	状态码。更多信息，请参见Code说明。
Msg		String	OK	请求消息的响应消息。
RequestId		String	ABCD1234-1234-1234-1234-123****	请求ID。
Data		Object		检测结果。
	TaskId	String	task-1234-1234-1234-123****	任务ID。可用于查询审核任务结果。
	DataId	String	img123******	检测对象对应的数据ID。

示例

图片、音频、视频审核请求示例：

{
    "Service": "imageManualCheck",
    "ServiceParameters": {
        "url": "https://img.alicdn.com/tfs/TB1Mq6ZmCslXu8jSZFuXXXg7FXa-1440-568.jpg",
        "dataId": "test0307******"
    }
}

文本审核请求示例：

{
    "Service": "longTextManualCheck",
    "ServiceParameters": {
        "content": "这里待审核的文本内容",
        "dataId": "test0307******"
    }
}

返回示例：

{
    "Msg": "OK",
    "Code": 200,
    "RequestId": "ABCD1234-1234-1234-1234-1234XYZ",
    "Data": {
        "TaskId": "task-1234-2024-0307-0728****",
        "DataId": "test0307******"
    }
}

获取审核任务结果

接口说明

业务接口：ManualModerationResult，表示获取人工审核增强版审核结果。
计费信息：该接口不计费。
查询超时：建议您将查询间隔设置为30秒（即在提交异步检测任务30秒之后查询结果），最长不能超出30天，否则结果将会自动删除。

QPS限制

本接口的单用户QPS限制为100次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。

调试

在接入前，您也可以通过阿里云OpenAPI在线调试获取人工审核增强版审核任务结果的接口，查看调用示例代码及SDK依赖信息，方便概览接口的使用方法和参数。

请求参数

名称	类型	是否必选	示例值	描述

名称	类型	是否必选	示例值	描述
taskId	String	是	task-1234-2024-0307-0728****	任务ID。是指提交异步检测任务返回的TaskId字段。

返回数据

名称	类型	示例值	描述

名称	类型	示例值	描述
RequestId	String	ABCD1234-1234-1234-1234-123****	本次调用请求的ID，是由阿里云为该请求生成的唯一标识符，可用于排查和定位问题。
Data	Object		内容检测结果。更多信息，请参见Data。
Code	Integer	200	状态码。更多信息，请参见Code说明。
Msg	String	OK	本次请求的响应消息。

表 2. Data

名称	类型	示例值	描述

名称	类型	示例值	描述
Result	Array		检测的风险标签、置信分等参数结果。更多信息，请参见Result。
RiskLevel	String	high	风险等级，根据设置的高低风险分返回，返回值包括： high：高风险 none：未检测到风险说明高风险内容建议直接处置；未检测到风险无需进行特殊处置。人工审核只会返回高风险和未检测到风险。
DataId	String	img123******	检测对象对应的数据ID。说明如果在检测请求参数中传入了dataId，则此处返回对应的dataId。
TaskId	String	task-1234-2024-0307-0728****	检测对象对应的任务ID。

表 3.Result

名称	类型	示例值	描述

名称

类型

示例值

描述

Label

String

pornographic

人工审核给出的标签。可能会检出多个标签。支持的标签如下：

porn：涉黄
sexy：性感
political：涉政
terror：暴恐
contraband：违禁
abuse：辱骂
ad：广告
other：其他
nonLabel：未检测出风险

Description

String

涉黄

对Labal字段的说明。

重要

该字段为Label字段的解释说明，可能会变更调整，实际处理结果时建议处理Label字段，不要基于该字段进行结果处置。

示例

请求示例

{
  "taskId": "TASK1234-1234-1234-1234-123****"
}

返回示例

当人工审核检测到风险内容时，返回示例：

{
    "Msg": "success",
    "Code": 200,
    "Data": {
        "DataId": "img123****",
        "TaskId": "TASK1234-1234-1234-1234-123***",
        "Result": [
            {
                "Label": "porn",
                "Description": "涉黄"
            }
        ],
        "RiskLevel": "high"
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****"
}

当人工审核没有检测到风险内容时，返回示例：

{
    "Msg": "success",
    "Code": 200,
    "Data": {
        "DataId": "img123****",
        "TaskId": "TASK1234-1234-1234-1234-123***",
        "Result": [
            {
                "Label": "nonLabel",
                "Description": "未检测出风险"
            }
        ],
        "RiskLevel": "none"
    },
    "RequestId": "ABCD1234-1234-1234-1234-123****"
}

Code说明

以下为接口返回code的含义说明，系统仅对code返回为200的请求计量计费，其他code不会计费。

Code	说明

Code	说明
200	请求正常。
280	任务审核中。
400	请求参数为空。
401	请求参数错误。
402	请求参数长度不符合接口规定，请检查并修改。
403	请求超过QPS限制，请检查并调整并发。
404	传入的文件下载遇到错误，请检查或重试。
405	传入的文件下载超时，可能是因为图片无法访问，请检查调整后重试。
406	传入的文件过大，请检查调整图片大小后再重试。
407	传入的文件格式暂不支持，请检查调整后重试。
408	该账号无权限调用该接口，可能是账号未开通或者已欠费，或者调用账号未被授权访问。
500	系统异常。