图片审核增强版AIGC场景检测服务_内容安全(Content Moderation)-阿里云帮助中心

阿里云内容安全图片审核增强版推出AIGC场景图片检测服务，支持检测AIGC生成的图片是否有违规风险、AIGC生成的图片是否含有疑似侵权的元素以及判断图片是否由AIGC生成。本文介绍图片审核服务的AIGC场景检测功能。

一、使用场景

阿里云内容安全基于AIGC文生图和图生图场景的特性，定制提供以下AIGC专用检测服务：

AIGC图片风险检测：AIGC生成的图片由于训练数据的不可控性和生成过程的不可预知性，较容易生成具有违规风险的图片。基于此，阿里云内容安全提供AIGC图片风险检测服务，用于检测AIGC生成的图片可能具有的违反网络内容传播相关规定、影响平台内容秩序、影响用户体验的内容或元素。
AIGC生成图片判断：随着技术的进步，AIGC生成的图片越来越接近UGC产生的图片，而在实际业务场景中，平台可能希望对图片是否由AIGC生成做标识。基于此，阿里云内容安全提供AIGC生成图片判断的能力，帮助用户判断图片是否由AIGC生成。
AIGC图片侵权检测：当AIGC生成的图片用于商业化场景，尤其是用于营销素材、企业配图等场景时，如果图片带有侵权的元素，则会带来较高的风险。基于此，阿里云内容安全提供AIGC图片侵权检测服务，支持对图片可能含有的多种侵权元素进行检测，帮助用户发现潜在的侵权因素。

二、服务说明

图片审核增强版AIGC检测能力支持的服务（Service）如下：

服务（Service）	检测内容	适用场景
服务名称：AIGC图片风险检测 Service：aigcCheck	针对AIGC生成的图片进行专门优化，支持对色情、低俗、性感、涉政、暴恐、违禁、引人不适、不良等内容进行检测。详细可检测项，请参见内容安全控制台。	针对AIGC场景，检测AIGC生成的图片是否存在违规或者不宜传播的内容。建议AIGC生成的图片都进行该项检测。
服务名称：AIGC图片风险检测_出海版 Service：aigcCheck_cb	针对AIGC出海场景，支持对图片色情、低俗、性感、涉政、暴恐、违禁、引人不适、不良等内容进行检测。详细可检测项，请参见内容安全控制台。说明仅新加坡区域支持，调用时接入地域请选择新加坡。	针对AIGC出海场景，检测AIGC生成的图片是否存在违规或者不宜传播的内容。建议AIGC生成的图片都进行该项检测。
服务名称：AIGC生成图片判断 Service：aigcDetector	请求时对输入的图片进行检测，判断图片是否疑似AIGC生成。说明当前仅北京、上海区域支持，调用时接入地域请选择北京或者上海。	针对各种场景，判断图片是否由AIGC生成。建议需要对图片的来源进行标识时使用。
服务名称：AIGC图片侵权检测（公测版） Service：aigcViolationDetection	请求时对图片中的商标、特殊标识、人物等元素进行检测，判断是否有疑似侵权的风险。	AIGC生成的图片在进行应用尤其是商用场景时，调用该服务判断是否有侵权风险。建议配合AIGC图片风险检测服务使用，同时检测图片是否有黄政暴等违规的风险。

三、检测能力

AIGC图片风险检测服务支持对图片的各种违规风险进行检测，详细的可检测标签请参考AIGC图片风险检测（aigcCheck）支持标签。

AIGC生成图片判断服务支持判断图片是否由AIGC生成，可返回AIGC生成或者UGC产生标签。

AIGC侵权检测服务具有如下类别的侵权风险检测能力，能够在识别侵权风险的同时返回疑似的风险类别：

检测能力	说明
商标内容	检测图片中是否疑似含有常见汽车品牌、电子电器、时尚美妆、生活日用类商标风险。
特殊标识	检测图片中是否疑似含有常见社交通讯、生活服务、影音娱乐、金融服务、电商购物、新闻阅读、企业平台、电视台标类标识内容。
公众人物	检测图片中是否疑似含有常见的公众及特定人物内容。
动漫形象	检测图片中是否疑似含有特定的动漫IP形象。
自定义相似图库	支持添加自定义图库，检测图片是否会有和图库中图片相似的风险。

四、计费说明

图片审核增强版AIGC检测服务支持按量后付费和资源包抵扣两种付费方式。

按量后付费

当您开通图片审核增强版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。

审核类型	支持的业务场景（服务）	计费单价
图片审核通用（image_standard）	AIGC图片风险检测：aigcCheck AIGC生成图片判断：aigcDetector AIGC图片侵权检测：aigcViolationDetection	15元/万次说明调用1次左侧任一服务进行1次计费。根据实际调用量计费，如调用100次通用基线检测计费0.15元。
图片审核高级版（image_advanced）	AIGC图片风险检测_出海版：aigcCheck_cb	30元/万次说明调用1次左侧任一服务进行1次计费。根据实际调用量计费，如调用100次通用基线检测专业版计费0.3元。

说明

内容安全增强版的按量付费的计量出账频率为1小时/次。在出账详单中，moderationType对应上述审核类型字段。您可以查看账单详情。

资源包抵扣

如果您的审核量较大，或有相对固定的审核需求，建议预先购买资源包的方式。购买资源包规格越大，享受的折扣越大，支持叠加购买和使用。更多内容，请参见购买内容审核增强版抵扣资源包。

该资源包用于内容审核增强版用量的抵扣，无法与内容安全1.0版流量包共享，具体的抵扣系数如下：

审核类型

支持的业务场景（服务）

抵扣系数

图片审核通用版（image_standard）

AIGC图片风险检测：aigcCheck
AIGC生成图片判断：aigcDetector
AIGC图片侵权检测：aigcViolationDetection

抵扣系数为2，表示每成功调用一次接口，抵扣资源包的流量包容量规格2次。

例如购买的资源包的流量包容量规格为10次，当您成功调用1次接口，抵扣流量包容量规格2次，剩余8次。

图片审核高级版（image_advanced）

AIGC图片风险检测_海外版：aigcCheck_cb

4：即每成功调用一次接口，抵扣资源包的流量包容量规格4次。

例如购买的资源包的流量包容量规格为10次，当您成功调用1次接口，抵扣流量包容量规格4次，剩余6次。

购买后，使用图片审核增强版API所产生的用量会优先抵扣资源包的次数，当资源包次数不足以抵扣时，阿里云费用系统会自动按照按量付费进行出账，请及时关注您的资源包余量和按量付费账单。您可以通过阿里云费用中心的资源包系统设定余量预警通知。

五、接入指南

步骤一：开通服务

访问开通服务，开通图片核增强版服务。

开通图片增强版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。接口接入使用后系统会按使用量自动出账，具体信息，请参见计费说明。您也可以购买按量抵扣资源包，资源包相较于后付费存在一定阶梯折扣，适合使用量级可预期和较大的用户。

步骤二：为RAM用户授权

在接入SDK或者API之前，您需要为RAM用户授权。您可以为阿里云账号和RAM用户创建一个访问密钥（AccessKey）。在调用阿里云API时您需要使用AccessKey完成身份验证。获取方式，请参见获取AccessKey。

使用阿里云账号（主账号）或RAM管理员登录RAM控制台。
创建RAM用户。具体操作，请参见创建RAM用户。
向RAM用户授权系统策略权限：AliyunYundunGreenWebFullAccess。具体操作，请参见为RAM用户授权。完成以上配置后，您可以使用RAM用户调用内容安全API。

步骤三：安装并接入SDK

请参考图片审核增强版接入指南，目前支持的接入地域如下：

地域	外网接入地址	内网接入地址	支持服务
华东2（上海）	green-cip.cn-shanghai.aliyuncs.com	green-cip-vpc.cn-shanghai.aliyuncs.com	aigcCheck、aigcDetector、aigcViolationDetection
华北2（北京）	green-cip.cn-beijing.aliyuncs.com	green-cip-vpc.cn-beijing.aliyuncs.com	aigcCheck、aigcDetector、aigcViolationDetection
华东1（杭州）	green-cip.cn-hangzhou.aliyuncs.com	green-cip-vpc.cn-hangzhou.aliyuncs.com	aigcCheck、aigcViolationDetection
华南1（深圳）	green-cip.cn-shenzhen.aliyuncs.com	green-cip-vpc.cn-shenzhen.aliyuncs.com
西南1（成都）	green-cip.cn-chengdu.aliyuncs.com	暂无
新加坡	https://green-cip.ap-southeast-1.aliyuncs.com	https://green-cip-vpc.ap-southeast-1.aliyuncs.com	aigcCheck_cb

六、API接口

使用说明

您可以调用该接口创建图片内容检测任务。关于如何构造HTTP请求，请参见接入指南；您也可以直接选用已构造好的HTTP请求，更多信息，请参见接入指南。

业务接口：ImageModeration
计费信息：该接口为收费接口。仅对HTTP状态码为200的请求进行计量计费，产生其他错误码时不会计费。关于计费方式，请参见计费说明。
图片要求：
- 图片支持以下格式：PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC（该格式最长边需小于8192 px）、GIF（取第一帧）、ICO（取最后一图）。
- 图片大小限制在20 MB以内，高或者宽不能超过30000 px，且总像素不能超过2.5亿 px。像素建议大于200*200（px），像素过低会影响内容安全检测算法的效果。
- 图片下载时间限制为3秒内，如果下载时间超过3秒，返回下载超时。

QPS限制

本接口的单用户QPS限制为100次/秒。超过限制，API调用会被限流，这可能会影响您的业务，请合理调用。如果您业务量级较大或者有紧急扩容需求需要更大QPS，请联系您的商务经理。

调试

在接入前，您也可以通过阿里云OpenAPI在线调试图片审核增强版的接口，查看调用示例代码及SDK依赖信息，方便概览接口的使用方法和参数。

重要

在线调试能力是基于当前登录账号调用内容安全的API接口，因此调用量会计入账号的收费用量中。

请求参数

关于在请求中必须包含的公共请求参数，请参考接入指南。

请求body是一个JSON结构体，包含以下字段：

名称

类型

是否必选

示例值

描述

Service

String

是

aigcDetector

检测服务。取值：

aigcCheck：AIGC图片风险检测
aigcCheck_cb：AIGC图片风险检测_出海版
aigcDetector：AIGC生成图片判断
aigcViolationDetection：AIGC图片侵权检测

ServiceParameters

JSONString

是

内容检测对象的相关参数集。JSON字符串格式，关于每个字符串的描述，请参见表 1. ServiceParameters。

表 1. ServiceParameters

名称	类型	是否必选	示例值	描述
imageUrl	String	是。图片审核增强版支持三种方式传入图片，请您选择其中一种：使用图片URL方式进行检测，传入imageUrl。使用OSS授权进行检测，必须同时传入ossBucketName、ossObjectName、ossRegionId。使用本地图片进行检测。上传本地图片检测，不占用您的OSS存储空间，且文件只存储30分钟。SDK接入已经集成本地图片上传功能，具体代码示例，请参见图片审核增强版接入指南。	https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png	待检测对象的URL，请确保该URL能通过公网访问到，且URL地址长度不超过2048个字符。说明 URL地址中不能包含中文，且一次请求请确保仅传入1条URL。
ossBucketName	String		bucket_01	已授权OSS空间的Bucket名。说明使用OSS图片内网地址时必须先使用阿里云账号（即主账号）访问云资源访问授权页面进行授权。
ossObjectName	String		2022023/04/24/test.jpg	已授权OSS空间的文件名。
ossRegionId	String		cn-beijing	OSS Bucket所在区域。
dataId	String	否	img123****	检测对象对应的数据ID。由大小写英文字母、数字、下划线（_）、短划线（-）、英文句号（.）组成，不超过64个字符，可以用于唯一标识您的业务数据。
referer	String	否	www.aliyun.com	referer请求头，用于防盗链等场景。长度不超过256个字符。

返回数据

名称	类型	示例值	描述
RequestId	String	70ED13B0-BC22-576D-9CCF-1CC12FEAC477	本次调用请求的ID，是由阿里云为该请求生成的唯一标识符，可用于排查和定位问题。
Data	Object		图片内容检测结果。更多信息，请参见表 2. Data。
Code	Integer	200	状态码。更多信息，请参见Code说明。
Msg	String	OK	本次请求的响应消息。

表 2. Data

名称	类型	示例值	描述
Result	Array		图片检测的风险标签、置信分等参数结果。更多信息，请参见表 3. result。
DataId	String	img123******	检测对象对应的数据ID。说明如果在检测请求参数中传入了dataId，则此处返回对应的dataId。

表 3. result

名称

类型

示例值

描述

Label

String

tm_auto

图片内容检测运算后返回的标签。同一张图片可能会检出多个标签和分值。支持的标签，请参见：

AIGC图片风险检测（aigcCheck）支持标签
AIGC生成图片判断（aigcViolationDetection）支持标签
AIGC图片侵权检测（aigcViolationDetection）支持标签

Confidence

Float

81.22

置信分值，0到100分，保留到小数点后2位。部分标签无置信分，更多信息，请参见风险标签释义表。

示例

请求示例

{
    "Service": "aigcViolationDetection",
    "ServiceParameters": {
        "imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
        "dataId": "img123****"
    }
}

返回示例

系统检测到风险内容时，返回示例：

{
    "Msg": "OK",
    "Code": 200,
    "Data": {
        "DataId": "img123****",
        "Result": [
            {
                "Label": "tm_auto",
                "Confidence": 81
            },
            {
                "Label": "tm_electronic",
                "Confidence": 98
            }
        ]
    },
    "RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}

当系统没有检测到风险内容时，返回示例：

{
    "Msg": "OK",
    "Code": 200,
    "Data": {
        "DataId": "img123****",
        "Result": [
            {
                "Label": "nonLabel"
            }
        ]
    },
    "RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}

系统检测到您传入的图片命中了您配置的免审图库时，返回示例：

{
    "Msg": "OK",
    "Code": 200,
    "Data": {
        "DataId": "img123****",
        "Result": [
            {
                "Label": "nonLabel_lib",
                "Confidence": 83
            }
        ]
    },
    "RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}

说明

文档中的请求示例和返回示例为了便于阅读，做了格式化处理，实际返回结果是没有进行换行、缩进等处理。

风险标签释义表

以下是风险标签值、对应的分值区间以及对应的含义。每个风险标签均可以在控制台进行开关配置，部分风险标签会提供更细分检测范围的开关配置。具体操作，请参见控制台操作指南。各AIGC图片检测服务支持标签如下：

AIGC图片风险检测（aigcCheck）支持标签
AIGC生成图片判断（aigcViolationDetection）支持标签
AIGC图片侵权检测（aigcViolationDetection）支持标签

说明

建议您将系统返回的风险标签和置信分做一定周期的数据存储，以便于在后续内容治理时参考，可根据风险标签设定人工审核或标注的优先级、分层分类的内容治理措施。

表 4.AIGC图片风险检测（aigcCheck）支持标签

标签值（label）	置信分区间（confidence）	中文含义
pornographic_adultContent	0~100分，分数越高置信度越高	疑似含有成人色情内容。
pornographic_adultToys	0~100分，分数越高置信度越高	疑似含有成人器具类内容。
pornographic_artwork	0~100分，分数越高置信度越高	疑似含有艺术品色情内容。
suggestiveContent_bump	0~100分，分数越高置信度越高	疑似含有凸点轮廓内容。
suggestiveContent_sexhint	0~100分，分数越高置信度越高	疑似含有动作肢体低俗内容。
sexual_exaggeratedbreast	0~100分，分数越高置信度越高	疑似含有女性胸部夸张内容。
sexual_exaggeratedhip	0~100分，分数越高置信度越高	疑似含有臀部夸张内容。
sexual_exaggeratedCleavage	0~100分，分数越高置信度越高	疑似含有深度露沟内容。
sexual_femaleLeg	0~100分，分数越高置信度越高	疑似含有腿部性感内容。
sexual_femaleUnderwear	0~100分，分数越高置信度越高	疑似含有内衣泳衣内容。
sexual_femaleSeethrough	0~100分，分数越高置信度越高	疑似含有透明衣物内容。
sexual_normalbreast	0~100分，分数越高置信度越高	疑似包含女性乳沟特征。
sexual_shoulder	0~100分，分数越高置信度越高	疑似含有肩部性感内容。
sexual_pregnancy	0~100分，分数越高置信度越高	疑似含有孕照哺乳内容。
sexual_maleTopless	0~100分，分数越高置信度越高	疑似含有男性赤膊内容。
sexual_inBed	0~100分，分数越高置信度越高	疑似含有躺床场景内容。
sexual_inToilet	0~100分，分数越高置信度越高	疑似含有卫生间场景内容。
PDA_kiss	0~100分，分数越高置信度越高	疑似含有亲吻类内容。
PDA_physicalContact	0~100分，分数越高置信度越高	疑似含有亲密行为内容。
political_politicalFigure	0~100分，分数越高置信度越高	疑似含有政治人物内容。
political_prohibitedPerson	0~100分，分数越高置信度越高	疑似含有不宜宣传的人物内容。
political_taintedCelebrity	0~100分，分数越高置信度越高	疑似含有重大负面的公众人物内容。
political_CNFlag	0~100分，分数越高置信度越高	疑似含有中国旗帜。
political_otherFlag	0~100分，分数越高置信度越高	疑似含有其他国家或地区旗帜。
political_CNMap	0~100分，分数越高置信度越高	疑似含有中国地图。
political_logo	0~100分，分数越高置信度越高	疑似含有特定媒体标识台标。
political_outfit	0~100分，分数越高置信度越高	疑似含有军警服装。
political_ACU	0~100分，分数越高置信度越高	疑似含有作战服装。
political_badge	0~100分，分数越高置信度越高	疑似含有国徽党徽内容。
violent_explosion	0~100分，分数越高置信度越高	疑似含有烟火爆炸类内容元素。
violent_armedForces	0~100分，分数越高置信度越高	疑似含有武装元素。
violent_crowding	0~100分，分数越高置信度越高	疑似含有人群聚集元素。
violent_gun	0~100分，分数越高置信度越高	疑似含有枪支内容。
violent_knives	0~100分，分数越高置信度越高	疑似含有刀具内容。
violent_othergunKnives	0~100分，分数越高置信度越高	疑似含有枪支相关内容。
violent_blood	0~100分，分数越高置信度越高	疑似含有血腥类内容。
contraband_drug	0~100分，分数越高置信度越高	含有疑似毒品类内容。
contraband_gamble	0~100分，分数越高置信度越高	含有疑似赌博类内容。
horrific_organs	0~100分，分数越高置信度越高	含有疑似脏器内容。
horrific_intensive	0~100分，分数越高置信度越高	含有疑似密集恐惧内容。
horrific_excrement	0~100分，分数越高置信度越高	含有疑似排泄物内容
horrific_horrific	0~100分，分数越高置信度越高	画面疑似包含惊悚内容
inappropriate_smoking	0~100分，分数越高置信度越高	疑似含有烟相关内容。
inappropriate_drinking	0~100分，分数越高置信度越高	疑似含有酒相关内容。
inappropriate_tattoo	0~100分，分数越高置信度越高	疑似含有纹身相关内容。
religion_clothing	0~100分，分数越高置信度越高	疑似含有特定服饰或标识。更多信息，请参见内容安全控制台。
religion_logo	0~100分，分数越高置信度越高
religion_flag	0~100分，分数越高置信度越高

表 5.AIGC生成图片判断（aigcDetector）支持标签

标签值（label）	置信分区间（confidence）	中文含义
aigc	0~100分，分数越高置信度越高	图片疑似由AIGC生成。
ugc	0~100分，分数越高置信度越高	图片为非AIGC生成图片。

表 6.AIGC图片侵权检测（aigcViolationDetection）支持标签

标签值（label）	置信分区间（confidence）	中文含义
tm_auto	0~100分，分数越高置信度越高	画面疑似含有汽车品牌商标内容。
tm_electronic	0~100分，分数越高置信度越高	画面疑似含有电子电器商标内容。
tm_fashion	0~100分，分数越高置信度越高	画面疑似含有时尚美妆商标内容。
tm_goods	0~100分，分数越高置信度越高	画面疑似含有生活日用类商标内容。
logo_sns	0~100分，分数越高置信度越高	画面疑似含有社交通讯类标识
logo_lifestyle	0~100分，分数越高置信度越高	画面疑似含有生活服务类标识
logo_streaming	0~100分，分数越高置信度越高	画面疑似含有影音娱乐类标识
logo_finance	0~100分，分数越高置信度越高	画面疑似含有金融服务类标识
logo_retail	0~100分，分数越高置信度越高	画面疑似含有电商购物类标识
logo_news	0~100分，分数越高置信度越高	画面疑似含有新闻阅读类标识
logo_enterprise	0~100分，分数越高置信度越高	画面疑似含有企业平台类标识
logo_tv	0~100分，分数越高置信度越高	画面疑似含有电视台标类标识
cartoon_ip	0~100分，分数越高置信度越高	画面疑似含有动漫形象内容。
public_celebrity	0~100分，分数越高置信度越高	画面疑似含有明星人物内容。
public_politician	0~100分，分数越高置信度越高	画面疑似含有政治人物内容。

此外，上述每个风险标签也支持配置自定义图库实现，如检测的图片与自定义图库中的图片相似度高，则系统会返回对应的风险标签。为了便于区分，标签值（label）格式为原风险标签值_lib。例如，您对“tm_auto”配置了自定义图库，当检测的图片匹配到自定义图库中的任一一张图片且相似度较高，系统会在label参数中返回tm_auto_lib，对应的 confidence参数会以分值的形式代表相似程度。

当系统对传入的图片检测未发现异常，或着与您配置的免审图片中任一一张相似度高，则系统返回的标签值和置信分满足如下表格。

标签值（label）	置信分区间（confidence）	中文含义
nonLabel	无该字段	该图片未检测出风险，或者您已全关闭检测项。更多信息，请参见内容安全控制台。
nonLabel_lib	0~100分，分数越高置信度越高	该图片与您选配的免审图片中存在较高相似度。更多信息，请参见内容安全控制台。

Code说明

以下为接口返回code的含义说明，系统仅对code返回为200的请求计量计费，其他code不会计费。

Code	说明
200	请求正常。
400	请求参数为空。
401	请求参数错误。
402	请求参数长度不符合接口规定，请检查并修改。
403	请求超过QPS限制，请检查并调整并发。
404	传入的图片下载遇到错误，请检查或重试。
405	传入的图片下载超时，可能是因为图片无法访问，请检查调整后重试。
406	传入的图片过大，请检查调整图片大小后再重试。
407	传入的图片格式暂不支持，请检查调整后重试。
408	该账号无权限调用该接口，可能是账号未开通或者已欠费，或者调用账号未被授权访问。
500	系统异常。