阿里云内容安全图片审核增强版推出AIGC场景图片检测服务,支持检测AIGC生成的图片是否有违规风险、AIGC生成的图片是否含有疑似侵权的元素以及判断图片是否由AIGC生成。本文介绍图片审核服务的AIGC场景检测功能。
一、使用场景
阿里云内容安全基于AIGC文生图和图生图场景的特性,定制提供以下AIGC专用检测服务:
AIGC图片风险检测:AIGC生成的图片由于训练数据的不可控性和生成过程的不可预知性,较容易生成具有违规风险的图片。基于此,阿里云内容安全提供AIGC图片风险检测服务,用于检测AIGC生成的图片可能具有的违反网络内容传播相关规定、影响平台内容秩序、影响用户体验的内容或元素。
AIGC图片侵权检测:当AIGC生成的图片用于商业化场景,尤其是用于营销素材、企业配图等场景时,如果图片带有侵权的元素,则会带来较高的风险。基于此,阿里云内容安全提供AIGC图片侵权检测服务,支持对图片可能含有的多种侵权元素进行检测,帮助用户发现潜在的侵权因素。
图片是否AIGC生成判定:随着技术的进步,AIGC生成的图片越来越接近UGC产生的图片,而在实际业务场景中,平台可能希望对图片是否由AIGC生成做标识。基于此,阿里云内容安全提供AIGC生成图片判断的能力,帮助用户判断图片是否由AIGC生成。
二、服务说明
图片审核增强版AIGC检测能力支持的服务(Service)如下:
服务(Service) | 检测内容 | 适用场景 |
服务名称:AIGC图片风险检测 Service:aigcCheck | 针对AIGC生成的图片进行专门优化,支持对色情、低俗、性感、涉政、暴恐、违禁、引人不适、不良等内容进行检测。详细可检测项,请参见内容安全控制台。 | 针对AIGC场景,检测AIGC生成的图片是否存在违规或者不宜传播的内容。建议AIGC生成的图片都进行该项检测。 |
服务名称:AIGC图片风险检测_出海版 Service:aigcCheck_cb | 针对AIGC出海场景,支持对图片色情、低俗、性感、涉政、暴恐、违禁、引人不适、不良等内容进行检测。详细可检测项,请参见内容安全控制台。 说明 仅新加坡区域支持,调用时接入地域请选择新加坡。 | 针对AIGC出海场景,检测AIGC生成的图片是否存在违规或者不宜传播的内容。建议AIGC生成的图片都进行该项检测。 |
服务名称:图片是否AIGC生成判定 Service:aigcDetector | 请求时对输入的图片进行检测,判断图片是否疑似AIGC生成。 说明 当前仅北京、上海区域支持,调用时接入地域请选择北京或者上海。 | 针对各种场景,判断图片是否由AIGC生成。建议需要对图片的来源进行标识时使用。 |
服务名称:AIGC图片侵权检测(公测版) Service:aigcViolationDetection | 请求时对图片中的商标、特殊标识、人物等元素进行检测,判断是否有疑似侵权的风险。 | AIGC生成的图片在进行应用尤其是商用场景时,调用该服务判断是否有侵权风险。建议配合AIGC图片风险检测服务使用,同时检测图片是否有黄政暴等违规的风险。 |
三、检测能力
AIGC图片风险检测服务支持对图片的各种违规风险进行检测,详细的可检测标签请参考AIGC图片风险检测(aigcCheck)支持标签。
AIGC图片侵权检测服务具有如下类别的侵权风险检测能力,能够在识别侵权风险的同时返回疑似的风险类别:
图片是否AIGC生成判定服务支持判断图片是否由AIGC生成,可返回AIGC生成或者UGC产生标签。
检测能力 | 说明 |
商标内容 | 检测图片中是否疑似含有常见汽车品牌、电子电器、时尚美妆、生活日用类商标风险。 |
特殊标识 | 检测图片中是否疑似含有常见社交通讯、生活服务、影音娱乐、金融服务、电商购物、新闻阅读、企业平台、电视台标类标识内容。 |
公众人物 | 检测图片中是否疑似含有常见的公众及特定人物内容。 |
动漫形象 | 检测图片中是否疑似含有特定的动漫IP形象。 |
自定义相似图库 | 支持添加自定义图库,检测图片是否会有和图库中图片相似的风险。 |
四、计费说明
图片审核增强版AIGC检测服务支持按量后付费和资源包抵扣两种付费方式。
按量后付费
当您开通图片审核增强版服务后,默认付费方式是按量后付费,且按照实际用量结算当日费用,不调用服务不收费。
审核类型 | 支持的业务场景(服务) | 计费单价 |
图片审核通用(image_standard) |
| 15元/万次 说明 调用1次左侧任一服务进行1次计费。根据实际调用量计费,如调用100次AIGC图片风险检测服务计费0.15元。 |
图片审核高级版(image_advanced) |
| 30元/万次 说明 调用1次左侧任一服务进行1次计费。根据实际调用量计费,如调用100次AIGC图片风险检测出海版服务计费0.3元。 |
内容安全增强版的按量付费的计量出账频率为1小时/次。在出账详单中,moderationType
对应上述审核类型字段。您可以查看账单详情。
资源包抵扣
如果您的审核量较大,或有相对固定的审核需求,建议预先购买资源包的方式。购买资源包规格越大,享受的折扣越大,支持叠加购买和使用。更多内容,请参见购买内容审核增强版抵扣资源包。
该资源包用于内容审核增强版用量的抵扣,无法与内容安全1.0版流量包共享,具体的抵扣系数如下:
审核类型 | 支持的业务场景(服务) | 抵扣系数 |
图片审核通用(image_standard) |
| 抵扣系数为2,表示每成功调用一次接口,抵扣资源包的流量包容量规格2次。 例如购买的资源包的流量包容量规格为10次,当您成功调用1次接口,抵扣流量包容量规格2次,剩余8次。 |
图片审核高级(image_advanced) |
| 4:即每成功调用一次接口,抵扣资源包的流量包容量规格4次。 例如购买的资源包的流量包容量规格为10次,当您成功调用1次接口,抵扣流量包容量规格4次,剩余6次。 |
购买后,使用图片审核增强版API所产生的用量会优先抵扣资源包的次数,当资源包次数不足以抵扣时,阿里云费用系统会自动按照按量付费进行出账,请及时关注您的资源包余量和按量付费账单。您可以通过阿里云费用中心的资源包系统设定余量预警通知。
五、接入指南
步骤一:开通服务
访问开通服务,开通图片核增强版服务。
开通图片增强版服务后,默认付费方式是按量后付费,且按照实际用量结算当日费用,不调用服务不收费。接口接入使用后系统会按使用量自动出账,具体信息,请参见计费说明。您也可以购买按量抵扣资源包,资源包相较于后付费存在一定阶梯折扣,适合使用量级可预期和较大的用户。
步骤二:为RAM用户授权
在接入SDK或者API之前,您需要为RAM用户授权。您可以为阿里云账号和RAM用户创建一个访问密钥(AccessKey)。在调用阿里云API时您需要使用AccessKey完成身份验证。获取方式,请参见获取AccessKey。
使用阿里云账号(主账号)或RAM管理员登录RAM控制台。
创建RAM用户。具体操作,请参见创建RAM用户。
向RAM用户授权系统策略权限:AliyunYundunGreenWebFullAccess。具体操作,请参见为RAM用户授权。完成以上配置后,您可以使用RAM用户调用内容安全API。
步骤三:安装并接入SDK
请参考图片审核增强版SDK及接入指南,目前支持的接入地域如下:
地域 | 外网接入地址 | 内网接入地址 | 支持服务 |
华东2(上海) | green-cip.cn-shanghai.aliyuncs.com | green-cip-vpc.cn-shanghai.aliyuncs.com | aigcCheck、aigcDetector、aigcViolationDetection |
华北2(北京) | green-cip.cn-beijing.aliyuncs.com | green-cip-vpc.cn-beijing.aliyuncs.com | |
华东1(杭州) | green-cip.cn-hangzhou.aliyuncs.com | green-cip-vpc.cn-hangzhou.aliyuncs.com | aigcCheck、aigcViolationDetection |
华南1(深圳) | green-cip.cn-shenzhen.aliyuncs.com | green-cip-vpc.cn-shenzhen.aliyuncs.com | |
西南1(成都) | green-cip.cn-chengdu.aliyuncs.com | 暂无 | |
新加坡 | https://green-cip.ap-southeast-1.aliyuncs.com | https://green-cip-vpc.ap-southeast-1.aliyuncs.com | aigcCheck_cb |
步骤四:调整图片审核的规则(可选)
您可以在内容安全控制台调整图片审核服务的检测规则,包括检测范围开关、复制service、配置自定义图库、配置自定义词库、查询检测记录、查询用量等。具体操作,请参见控制台操作指南。
六、API接口
使用说明
您可以调用该接口创建图片内容检测任务。关于如何构造HTTP请求,请参见接入指南;您也可以直接选用已构造好的HTTP请求,更多信息,请参见接入指南。
业务接口:ImageModeration
计费信息:该接口为收费接口。仅对HTTP状态码为200的请求进行计量计费,产生其他错误码时不会计费。关于计费方式,请参见计费说明。
图片要求:
图片支持以下格式:PNG、JPG、JPEG、BMP、WEBP、TIFF、SVG、HEIC(该格式最长边需小于8192 px)、GIF(取第一帧)、ICO(取最后一图)。
图片大小限制在20 MB以内,高或者宽不能超过16384 px,且总像素不能超过2.5亿 px。像素建议大于200*200(px),像素过低会影响内容安全检测算法的效果。
图片下载时间限制为3秒内,如果下载时间超过3秒,返回下载超时。
QPS限制
本接口的单用户QPS限制为100次/秒。超过限制,API调用会被限流,这可能会影响您的业务,请合理调用。如果您业务量级较大或者有紧急扩容需求需要更大QPS,请联系您的商务经理。
调试
在接入前,您也可以通过阿里云OpenAPI在线调试图片审核增强版的接口,查看调用示例代码及SDK依赖信息,方便概览接口的使用方法和参数。
在线调试能力是基于当前登录账号调用内容安全的API接口,因此调用量会计入账号的收费用量中。
请求参数
关于在请求中必须包含的公共请求参数,请参考接入指南。
请求body是一个JSON结构体,包含以下字段:
名称 | 类型 | 是否必选 | 示例值 | 描述 |
Service | String | 是 | aigcDetector | 检测服务。取值:
|
ServiceParameters | JSONString | 是 | 内容检测对象的相关参数集。JSON字符串格式,关于每个字符串的描述,请参见表 1. ServiceParameters。 |
表 1. ServiceParameters
名称 | 类型 | 是否必选 | 示例值 | 描述 |
imageUrl | String | 是。图片审核增强版支持三种方式传入图片,请您选择其中一种:
| https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png | 待检测对象的URL,请确保该URL能通过公网访问到,且URL地址长度不超过2048个字符。 说明 URL地址中不能包含中文,且一次请求请确保仅传入1条URL。 |
ossBucketName | String | bucket_01 | 已授权OSS空间的Bucket名。 说明 使用OSS图片内网地址时必须先使用阿里云账号(即主账号)访问云资源访问授权页面进行授权。 | |
ossObjectName | String | 2022023/04/24/test.jpg | 已授权OSS空间的文件名。 | |
ossRegionId | String | cn-beijing | OSS Bucket所在区域。 | |
dataId | String | 否 | img123**** | 检测对象对应的数据ID。 由大小写英文字母、数字、下划线(_)、短划线(-)、英文句号(.)组成,不超过64个字符,可以用于唯一标识您的业务数据。 |
referer | String | 否 | www.aliyun.com | referer请求头,用于防盗链等场景。长度不超过256个字符。 |
返回数据
名称 | 类型 | 示例值 | 描述 |
RequestId | String | 70ED13B0-BC22-576D-9CCF-1CC12FEAC477 | 本次调用请求的ID,是由阿里云为该请求生成的唯一标识符,可用于排查和定位问题。 |
Data | Object | 图片内容检测结果。更多信息,请参见表 2. Data。 | |
Code | Integer | 200 | 状态码。更多信息,请参见Code说明。 |
Msg | String | OK | 本次请求的响应消息。 |
表 2. Data
名称 | 类型 | 示例值 | 描述 |
Result | Array | 图片检测的风险标签、置信分等参数结果。更多信息,请参见表 3. result。 | |
RiskLevel | String | high | 风险等级,根据设置的高低风险分返回,返回值包括:
说明 高风险内容建议直接处置;中风险内容建议人工复查;低风险内容建议在高召回需求时再做处理,日常建议和未检测到风险做相同处理。风险分值可以在内容安全控制台配置。 |
DataId | String | img123****** | 检测对象对应的数据ID。 说明 如果在检测请求参数中传入了dataId,则此处返回对应的dataId。 |
表 3. result
名称 | 类型 | 示例值 | 描述 |
Label | String | tm_auto | 图片内容检测运算后返回的标签。同一张图片可能会检出多个标签和分值。支持的标签,请参见: |
Confidence | Float | 81.22 | 置信分值,0到100分,保留到小数点后2位。部分标签无置信分,更多信息,请参见风险标签释义表。 |
Description | String | 烟火类内容 | 对Labal字段的说明。 重要 该字段为Label字段的解释说明,可能会变更调整,实际处理结果时建议处理Label字段,不要基于该字段进行结果处置。 |
示例
请求示例
{
"Service": "aigcViolationDetection",
"ServiceParameters": {
"imageUrl": "https://img.alicdn.com/tfs/TB1U4r9AeH2gK0jSZJnXXaT1FXa-2880-480.png",
"dataId": "img123****"
}
}
返回示例
系统检测到风险内容时,返回示例:
{
"Msg": "OK",
"Code": 200,
"Data": {
"DataId": "img123****",
"Result": [
{
"Label": "tm_auto",
"Confidence": 81,
"Description": "汽车品牌商标内容"
},
{
"Label": "tm_electronic",
"Confidence": 98,
"Description": "电子电器商标内容"
}
],
"RiskLevel": "high"
},
"RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}
当系统没有检测到风险内容时,返回示例:
{
"Msg": "OK",
"Code": 200,
"Data": {
"DataId": "img123****",
"Result": [
{
"Label": "nonLabel",
"Description": "未检测出风险"
}
],
"RiskLevel": "none"
},
"RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}
系统检测到您传入的图片命中了您配置的免审图库时,返回示例:
{
"Msg": "OK",
"Code": 200,
"Data": {
"DataId": "img123****",
"Result": [
{
"Label": "nonLabel_lib",
"Confidence": 87.28,
"Description": "命中免审图库"
}
],
"RiskLevel": "none"
},
"RequestId": "ABCD1234-1234-1234-1234-1234XYZ"
}
文档中的请求示例和返回示例为了便于阅读,做了格式化处理,实际返回结果是没有进行换行、缩进等处理。
风险标签释义表
以下是风险标签值、对应的分值区间以及对应的含义。每个风险标签均可以在控制台进行开关配置,部分风险标签会提供更细分检测范围的开关配置。具体操作,请参见控制台操作指南。各AIGC图片检测服务支持标签如下:
建议您将系统返回的风险标签和置信分做一定周期的数据存储,以便于在后续内容治理时参考,可根据风险标签设定人工审核或标注的优先级、分层分类的内容治理措施。
表 4.AIGC图片风险检测(aigcCheck)支持标签
标签值(label) | 置信分区间(confidence) | 中文含义 |
pornographic_adultContent | 0~100分,分数越高置信度越高 | 疑似含有成人色情内容。 |
pornographic_adultToys | 0~100分,分数越高置信度越高 | 疑似含有成人器具类内容。 |
pornographic_artwork | 0~100分,分数越高置信度越高 | 疑似含有艺术品色情内容。 |
suggestiveContent_bump | 0~100分,分数越高置信度越高 | 疑似含有凸点轮廓内容。 |
suggestiveContent_sexhint | 0~100分,分数越高置信度越高 | 疑似含有动作肢体低俗内容。 |
sexual_exaggeratedbreast | 0~100分,分数越高置信度越高 | 疑似含有女性胸部夸张内容。 |
sexual_exaggeratedhip | 0~100分,分数越高置信度越高 | 疑似含有臀部夸张内容。 |
sexual_exaggeratedCleavage | 0~100分,分数越高置信度越高 | 疑似含有深度露沟内容。 |
sexual_femaleLeg | 0~100分,分数越高置信度越高 | 疑似含有腿部性感内容。 |
sexual_femaleUnderwear | 0~100分,分数越高置信度越高 | 疑似含有内衣泳衣内容。 |
sexual_femaleSeethrough | 0~100分,分数越高置信度越高 | 疑似含有透明衣物内容。 |
sexual_generalbreast | 0~100分,分数越高置信度越高 | 疑似包含女性乳沟特征。 |
sexual_shoulder | 0~100分,分数越高置信度越高 | 疑似含有肩部性感内容。 |
sexual_pregnancy | 0~100分,分数越高置信度越高 | 疑似含有孕照哺乳内容。 |
sexual_maleTopless | 0~100分,分数越高置信度越高 | 疑似含有男性赤膊内容。 |
sexual_inBed | 0~100分,分数越高置信度越高 | 疑似含有躺床场景内容。 |
sexual_inToilet | 0~100分,分数越高置信度越高 | 疑似含有卫生间场景内容。 |
PDA_kiss | 0~100分,分数越高置信度越高 | 疑似含有亲吻类内容。 |
PDA_physicalContact | 0~100分,分数越高置信度越高 | 疑似含有亲密行为内容。 |
political_politicalFigure | 0~100分,分数越高置信度越高 | 疑似含有政治人物内容。 |
political_prohibitedPerson | 0~100分,分数越高置信度越高 | 疑似含有不宜宣传的人物内容。 |
political_taintedCelebrity | 0~100分,分数越高置信度越高 | 疑似含有重大负面的公众人物内容。 |
political_CNFlag | 0~100分,分数越高置信度越高 | 疑似含有中国旗帜。 |
political_otherFlag | 0~100分,分数越高置信度越高 | 疑似含有其他国家或地区旗帜。 |
political_CNMap | 0~100分,分数越高置信度越高 | 疑似含有中国地图。 |
political_logo | 0~100分,分数越高置信度越高 | 疑似含有特定媒体标识台标。 |
political_outfit | 0~100分,分数越高置信度越高 | 疑似含有军警服装。 |
political_ACU | 0~100分,分数越高置信度越高 | 疑似含有作战服装。 |
political_badge | 0~100分,分数越高置信度越高 | 疑似含有国徽党徽内容。 |
violent_explosion | 0~100分,分数越高置信度越高 | 疑似含有烟火爆炸类内容元素。 |
violent_armedForces | 0~100分,分数越高置信度越高 | 疑似含有武装元素。 |
violent_crowding | 0~100分,分数越高置信度越高 | 疑似含有人群聚集元素。 |
violent_gun | 0~100分,分数越高置信度越高 | 疑似含有枪支内容。 |
violent_knives | 0~100分,分数越高置信度越高 | 疑似含有刀具内容。 |
violent_othergunKnives | 0~100分,分数越高置信度越高 | 疑似含有枪支相关内容。 |
violent_blood | 0~100分,分数越高置信度越高 | 疑似含有血腥类内容。 |
contraband_drug | 0~100分,分数越高置信度越高 | 含有疑似毒品类内容。 |
contraband_gamble | 0~100分,分数越高置信度越高 | 含有疑似赌博类内容。 |
horrific_organs | 0~100分,分数越高置信度越高 | 含有疑似脏器内容。 |
horrific_intensive | 0~100分,分数越高置信度越高 | 含有疑似密集恐惧内容。 |
horrific_excrement | 0~100分,分数越高置信度越高 | 含有疑似排泄物内容 |
horrific_horrific | 0~100分,分数越高置信度越高 | 画面疑似包含惊悚内容 |
inappropriate_smoking | 0~100分,分数越高置信度越高 | 疑似含有烟相关内容。 |
inappropriate_drinking | 0~100分,分数越高置信度越高 | 疑似含有酒相关内容。 |
inappropriate_tattoo | 0~100分,分数越高置信度越高 | 疑似含有纹身相关内容。 |
religion_clothing | 0~100分,分数越高置信度越高 | 疑似含有特定服饰或标识。更多信息,请参见内容安全控制台。 |
religion_logo | 0~100分,分数越高置信度越高 | |
religion_flag | 0~100分,分数越高置信度越高 |
表 5.AIGC图片风险检测_出海版(aigcCheck_cb)支持标签
标签值(label) | 置信分区间(confidence) | 中文含义 |
pornographic_adultContent | 0~100分,分数越高置信度越高 | 疑似含有成人色情内容。 |
pornographic_adultToys | 0~100分,分数越高置信度越高 | 疑似含有成人器具类内容。 |
pornographic_artwork | 0~100分,分数越高置信度越高 | 疑似含有艺术品色情内容。 |
sexual_suggestiveContent | 0~100分,分数越高置信度越高 | 疑似含有动作肢体低俗内容。 |
sexual_femaleUnderwear | 0~100分,分数越高置信度越高 | 疑似含有内衣泳衣内容。 |
sexual_cleavage | 0~100分,分数越高置信度越高 | 疑似含有女性乳沟特征。 |
sexual_maleTopless | 0~100分,分数越高置信度越高 | 疑似含有男性赤膊内容。 |
sexual_cartoon | 0~100分,分数越高置信度越高 | 疑似含有卡通性感内容。 |
sexual_shoulder | 0~100分,分数越高置信度越高 | 疑似含有肩部性感内容。 |
sexual_femaleLeg | 0~100分,分数越高置信度越高 | 疑似含有腿部性感内容。 |
sexual_pregnancy | 0~100分,分数越高置信度越高 | 疑似含有孕照哺乳内容。 |
sexual_kiss | 0~100分,分数越高置信度越高 | 疑似含有亲吻内容。 |
sexual_intimacy | 0~100分,分数越高置信度越高 | 疑似含有亲密行为内容。 |
sexual_intimacyCartoon | 0~100分,分数越高置信度越高 | 疑似含有卡通动漫亲密动作。 |
political_historicalNihility | 0~100分,分数越高置信度越高 | 疑似涉及虚无历史。 |
political_politicalFigure_1 | 0~100分,分数越高置信度越高 | 疑似含有政治人物内容。更多信息,请参见内容安全控制台。 |
political_politicalFigure_2 | 0~100分,分数越高置信度越高 | |
political_politicalFigure_3 | 0~100分,分数越高置信度越高 | |
political_politicalFigure_4 | 0~100分,分数越高置信度越高 | |
political_prohibitedPerson_1 | 0~100分,分数越高置信度越高 | 画面疑似含有国家级落马官员。 |
political_prohibitedPerson_2 | 0~100分,分数越高置信度越高 | 画面疑似含有省市级落马官员。 |
political_prohibitedPerson | 0~100分,分数越高置信度越高 | 疑似含有不宜宣传的人物内容。 |
political_taintedCelebrity | 0~100分,分数越高置信度越高 | 疑似含有重大负面的公众人物内容。 |
political_CNFlag | 0~100分,分数越高置信度越高 | 疑似含有中国旗帜。 |
political_CNMap | 0~100分,分数越高置信度越高 | 疑似含有中国地图。 |
political_logo | 0~100分,分数越高置信度越高 | 疑似含有特定媒体标识台标。 |
political_outfit | 0~100分,分数越高置信度越高 | 疑似含有军警服装。 |
political_badge | 0~100分,分数越高置信度越高 | 疑似含有国徽党徽内容。 |
violent_explosion | 0~100分,分数越高置信度越高 | 疑似含有烟火爆炸类内容元素。 |
violent_armedForces | 0~100分,分数越高置信度越高 | 疑似含有武装元素。 |
violent_weapon | 0~100分,分数越高置信度越高 | 疑似包含军器装备。 |
violent_ACU | 0~100分,分数越高置信度越高 | 疑似包含作战服。 |
violent_crowding | 0~100分,分数越高置信度越高 | 疑似含有人群聚集元素。 |
violent_gun | 0~100分,分数越高置信度越高 | 疑似含有枪支内容。 |
violent_knives | 0~100分,分数越高置信度越高 | 疑似含有刀具内容。 |
violent_horrific | 0~100分,分数越高置信度越高 | 疑似包含惊悚内容。 |
violent_nazi | 0~100分,分数越高置信度越高 | 疑似包含纳粹内容。 |
violent_blood | 0~100分,分数越高置信度越高 | 疑似含有血腥类内容。 |
contraband_drug | 0~100分,分数越高置信度越高 | 含有疑似毒品类内容。 |
contraband_gamble | 0~100分,分数越高置信度越高 | 含有疑似赌博类内容。 |
horrific_organs | 0~100分,分数越高置信度越高 | 含有疑似脏器内容。 |
horrific_intensive | 0~100分,分数越高置信度越高 | 含有疑似密集恐惧内容。 |
horrific_excrement | 0~100分,分数越高置信度越高 | 含有疑似排泄物内容。 |
horrific_horrific | 0~100分,分数越高置信度越高 | 画面疑似包含惊悚内容。 |
horrific_blood | 0~100分,分数越高置信度越高 | 疑似含有血腥内容。 |
inappropriate_smoking | 0~100分,分数越高置信度越高 | 疑似含有烟相关内容。 |
inappropriate_drinking | 0~100分,分数越高置信度越高 | 疑似含有酒相关内容。 |
inappropriate_tattoo | 0~100分,分数越高置信度越高 | 疑似含有纹身相关内容。 |
inappropriate_middleFinger | 0~100分,分数越高置信度越高 | 疑似含有竖中指相关内容。 |
inappropriate_foodWasting | 0~100分,分数越高置信度越高 | 疑似含有浪费粮食相关内容。 |
religion_clothing | 0~100分,分数越高置信度越高 | 疑似含有特定服饰或标识。更多信息,请参见内容安全控制台。 |
religion_logo | 0~100分,分数越高置信度越高 | |
religion_flag | 0~100分,分数越高置信度越高 | |
religion_taboo1_tii | 0~100分,分数越高置信度越高 | 图中文字含宗教禁忌内容。 |
religion_taboo2_tii | 0~100分,分数越高置信度越高 | 图中文字含禁忌内容。 |
flag_country | 0~100分,分数越 | 疑似含有旗帜相关内容。 |
表 6.图片是否AIGC生成判定(aigcDetector)支持标签
标签值(label) | 置信分区间(confidence) | 中文含义 |
aigc | 0~100分,分数越高置信度越高 | 图片疑似由AIGC生成。 |
ugc | 0~100分,分数越高置信度越高 | 图片为非AIGC生成图片。 |
表 7.AIGC图片侵权检测(aigcViolationDetection)支持标签
标签值(label) | 置信分区间(confidence) | 中文含义 |
tm_auto | 0~100分,分数越高置信度越高 | 画面疑似含有汽车品牌商标内容。 |
tm_electronic | 0~100分,分数越高置信度越高 | 画面疑似含有电子电器商标内容。 |
tm_fashion | 0~100分,分数越高置信度越高 | 画面疑似含有时尚美妆商标内容。 |
tm_goods | 0~100分,分数越高置信度越高 | 画面疑似含有生活日用类商标内容。 |
logo_sns | 0~100分,分数越高置信度越高 | 画面疑似含有社交通讯类标识 |
logo_lifestyle | 0~100分,分数越高置信度越高 | 画面疑似含有生活服务类标识 |
logo_streaming | 0~100分,分数越高置信度越高 | 画面疑似含有影音娱乐类标识 |
logo_finance | 0~100分,分数越高置信度越高 | 画面疑似含有金融服务类标识 |
logo_retail | 0~100分,分数越高置信度越高 | 画面疑似含有电商购物类标识 |
logo_news | 0~100分,分数越高置信度越高 | 画面疑似含有新闻阅读类标识 |
logo_enterprise | 0~100分,分数越高置信度越高 | 画面疑似含有企业平台类标识 |
logo_tv | 0~100分,分数越高置信度越高 | 画面疑似含有电视台标类标识 |
cartoon_ip | 0~100分,分数越高置信度越高 | 画面疑似含有动漫形象内容。 |
public_celebrity | 0~100分,分数越高置信度越高 | 画面疑似含有明星人物内容。 |
public_politician | 0~100分,分数越高置信度越高 | 画面疑似含有政治人物内容。 |
此外,上述每个风险标签也支持配置自定义图库实现,如检测的图片与自定义图库中的图片相似度高,则系统会返回对应的风险标签。为了便于区分,标签值(label)格式为原风险标签值_lib。例如,您对“tm_auto”配置了自定义图库,当检测的图片匹配到自定义图库中的任意一张图片且相似度较高,系统会在label参数中返回tm_auto_lib,对应的 confidence参数会以分值的形式代表相似程度。
当系统对传入的图片检测未发现异常,或着与您配置的免审图片中任意一张相似度高,则系统返回的标签值和置信分满足如下表格。
标签值(label) | 置信分区间(confidence) | 中文含义 |
nonLabel | 无该字段 | 该图片未检测出风险,或者您已全关闭检测项。更多信息,请参见内容安全控制台。 |
nonLabel_lib | 0~100分,分数越高置信度越高 | 该图片与您选配的免审图片中存在较高相似度。更多信息,请参见内容安全控制台。 |
Code说明
以下为接口返回code的含义说明,系统仅对code返回为200的请求计量计费,其他code不会计费。
Code | 说明 |
200 | 请求正常。 |
400 | 请求参数为空。 |
401 | 请求参数错误。 |
402 | 请求参数长度不符合接口规定,请检查并修改。 |
403 | 请求超过QPS限制,请检查并调整并发。 |
404 | 传入的图片下载遇到错误,请检查或重试。 |
405 | 传入的图片下载超时,可能是因为图片无法访问,请检查调整后重试。 |
406 | 传入的图片过大,请检查调整图片大小后再重试。 |
407 | 传入的图片格式暂不支持,请检查调整后重试。 |
408 | 该账号无权限调用该接口,可能是账号未开通或者已欠费,或者调用账号未被授权访问。 |
500 | 系统异常。 |