面向百炼大模型用户的图片审核服务_内容安全(Content Moderation)-阿里云帮助中心

本服务专为百炼平台用户提供，旨在提升大模型的图片输入和输出安全审核体验。在遵守百炼平台红线管控政策的基础上，我们提供了灵活的审核标签管理功能，允许用户根据需要开启或关闭特定审核标签。此外，我们还提供定制化的安全策略配置服务，以满足不同用户的个性化需求。

一、使用说明

为了在百炼平台使用安全内容服务，您需要按照以下步骤进行服务的开通和配置：

步骤1：开通内容安全增强版服务

访问内容审核增强版服务开通页面，仔细阅读并选中服务协议，单击立即开通按钮开通服务。

步骤2：百炼平台授权和配置

在百炼平台进行相关授权，并在调用百炼的header中传入相关标识。具体操作请参考百炼内容安全文档。

二、服务说明

当您在百炼控制台开通内容安全产品的SLR授权后，并在调用百炼的header中传入cip标识时，我们会根据您的图片输入和输出场景自动匹配对应的图片审核服务，对应服务如下：

服务（Service）	场景说明	检测内容

服务（Service）

场景说明

检测内容

服务名称：百炼输入图片检测

Service：bailianQueryImageCheck

对百炼图生图、图片理解等场景的输入图片进行风险检测。

支持对色情、性感、涉政、暴恐、违禁、引流广告、不良内容、宗教、特殊标识、特定物体、谩骂等内容进行检测。详细可检测项，请参见内容安全控制台。

服务名称：百炼生成图片检测

Service：bailianResponseImageCheck

对文生图、图生图等场景的生成图片进行风险检测。

针对AIGC生成的图片进行专门优化，支持对色情、性感、涉政、暴恐、违禁、引流广告、不良等内容进行检测。详细可检测项，请参见内容安全控制台。

三、计费说明

面向百炼大模型用户的图片审核服务支持按量后付费和资源包抵扣两种付费方式。

按量后付费

当您开通图片审核增强版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。

审核类型	支持的业务场景（服务）	计费单价

审核类型	支持的业务场景（服务）	计费单价
图片审核通用（image_standard）	百炼输入图片检测：bailianQueryImageCheck 百炼生成图片检测：bailianResponseImageCheck	15元/万次说明调用1次左侧任一服务进行1次计费。根据实际调用量计费，如调用100次百炼输入图片检测服务计费0.15元。

说明

内容安全增强版的按量付费的计量出账频率为1小时/次。在出账详单中，moderationType对应上述审核类型字段。您可以查看账单详情。

资源包抵扣

如果您的审核量较大，或有相对固定的审核需求，建议预先购买资源包的方式。购买资源包规格越大，享受的折扣越大，支持叠加购买和使用。更多内容，请参见购买内容审核增强版抵扣资源包。

审核类型	抵扣系数

审核类型

抵扣系数

图片审核通用（image_standard）

抵扣系数为2，表示每成功调用一次接口，抵扣资源包的流量包容量规格2次。

例如购买的资源包的流量包容量规格为10次，当您成功调用1次接口，抵扣流量包容量规格2次，剩余8次。

购买后，使用图片审核增强版API所产生的用量会优先抵扣资源包的次数，当资源包次数不足以抵扣时，阿里云费用系统会自动按照按量付费进行出账，请及时关注您的资源包余量和按量付费账单。您可以通过阿里云费用中心的资源包系统设定余量预警通知。

四、风险标签

标签含义

您可以在内容安全控制台查看每个服务支持的标签及其细分检测范围信息。以下是风险标签值、对应的分值区间以及对应的含义：

标签值（label）	置信分区间（confidence）	中文含义

标签值（label）	置信分区间（confidence）	中文含义
pornographic_adultContent	0~100分，分数越高置信度越高	疑似含有成人色情内容。
pornographic_adultToys	0~100分，分数越高置信度越高	画面中疑似含有成人器具内容。
pornographic_artwork	0~100分，分数越高置信度越高	画面中疑似含有艺术品色情内容。
pornographic_adultContent_tii	0~100分，分数越高置信度越高	图片中文字疑似色情内容。
sexual_suggestiveContent	0~100分，分数越高置信度越高	画面疑似低俗或性暗示内容。
sexual_breastBump	0~100分，分数越高置信度越高	画面疑似含有凸点轮廓内容。
sexual_cleavage	0~100分，分数越高置信度越高	画面疑似含有女性乳沟特征。
sexual_femaleUnderwear	0~100分，分数越高置信度越高	画面疑似含有内衣泳衣内容。
sexual_maleTopless	0~100分，分数越高置信度越高	画面疑似含有男性赤膊内容。
sexual_cartoon	0~100分，分数越高置信度越高	画面疑似含有卡通性感内容。
sexual_femaleShoulder	0~100分，分数越高置信度越高	画面疑似含有肩部性感内容。
sexual_femaleLeg	0~100分，分数越高置信度越高	画面疑似含有腿部性感内容。
sexual_pregnancy	0~100分，分数越高置信度越高	画面疑似含有孕照哺乳内容。
sexual_underage	0~100分，分数越高置信度越高	画面疑似含有儿童性感内容。
political_historicalNihility	0~100分，分数越高置信度越高	画面疑似涉及虚无历史或不宜传播的历史事件。
political_historicalNihility_tii	0~100分，分数越高置信度越高	图中文字疑似历史虚无。
political_politicalFigure_1	0~100分，分数越高置信度越高	画面疑似含现任历任领导人。
political_politicalFigure_2	0~100分，分数越高置信度越高	画面疑似涉及领导人家属。
political_politicalFigure_3	0~100分，分数越高置信度越高	画面疑似涉及省、市政府人员。
political_politicalFigure_4	0~100分，分数越高置信度越高	画面疑似涉及国外领导人及家属。
political_politicalFigure_name_tii	0~100分，分数越高置信度越高	图中文字含领导人姓名。
political_politicalFigure_metaphor_tii	0~100分，分数越高置信度越高	图中文字疑似含有对主要领导人的代称、暗喻。
political_prohibitedPerson_tii	0~100分，分数越高置信度越高	图中文字疑似含落马官员的姓名。
political_prohibitedPerson_1	0~100分，分数越高置信度越高	画面疑似含有国家级落马官员。
political_prohibitedPerson_2	0~100分，分数越高置信度越高	画面疑似含有省市级落马官员。
political_taintedCelebrity	0~100分，分数越高置信度越高	画面疑似包含劣迹或重大负面的公众人物。
political_taintedCelebrity_tii	0~100分，分数越高置信度越高	图中文字疑似有劣迹艺人的姓名。
political_Chinaflag	0~100分，分数越高置信度越高	画面疑似含有中国国旗。
political_otherflag	0~100分，分数越高置信度越高	画面疑似含有其他国家国旗。
political_Chinamap	0~100分，分数越高置信度越高	画面疑似含有中国地图。
political_logo	0~100分，分数越高置信度越高	画面疑似含有禁宣媒体标识。
political_outfit	0~100分，分数越高置信度越高	画面疑似含有军警服装、作战部队服装。
political_medicalOutfit	0~100分，分数越高置信度越高	画面疑似含有医护服饰。
political_badge	0~100分，分数越高置信度越高	画面疑似含有国徽、党徽。
political_racism_tii	0~100分，分数越高置信度越高	图中文字疑似含有特殊的表达。更多信息，请参见内容安全控制台。
violent_explosion	0~100分，分数越高置信度越高	画面疑似含有烟火类内容元素。
violent_burning	0~100分，分数越高置信度越高	画面疑似含有燃烧类内容元素。
violent_armedForces	0~100分，分数越高置信度越高	画面疑似包含暴恐组织。
violent_crowding	0~100分，分数越高置信度越高	画面疑似有人群聚集。
violent_gun	0~100分，分数越高置信度越高	画面疑似包含枪支。
violent_Knives	0~100分，分数越高置信度越高	画面疑似包含刀具。
violent_gunKnives_tii	0~100分，分数越高置信度越高	图中文字含枪支刀具的描述。
violent_blood	0~100分，分数越高置信度越高	画面疑似含有血腥内容。
violent_horrific	0~100分，分数越高置信度越高	画面疑似包含惊悚内容。
violent_horrific_tii	0~100分，分数越高置信度越高	图中文字疑似描述暴力、恐怖的内容。
contraband_drug	0~100分，分数越高置信度越高	画面疑似毒品、药品。
contraband_drug_tii	0~100分，分数越高置信度越高	图中文字疑似描述违禁毒品。
contraband_gamble	0~100分，分数越高置信度越高	画面疑似赌博物品。
contraband_gamble_tii	0~100分，分数越高置信度越高	图中文字疑似描述赌博行为。
contraband_certificate_tii	0~100分，分数越高置信度越高	图中文字疑似含办证套现类广告引流。
religion_funeral	0~100分，分数越高置信度越高	画面疑似含有葬礼灵堂内容。
religion_buddhism	0~100分，分数越高置信度越高	疑似含有特定服饰或标识。更多信息，请参见内容安全控制台。
religion_christianity	0~100分，分数越高置信度越高
religion_muslim	0~100分，分数越高置信度越高
religion_tii	0~100分，分数越高置信度越高
racism_tii	0~100分，分数越高置信度越高
PDA_kiss	0~100分，分数越高置信度越高	画面疑似包含亲吻内容。
PDA_physicalContact	0~100分，分数越高置信度越高	画面疑似包含亲密行为。
object_landmark	0~100分，分数越高置信度越高	画面疑似包含国内地标内容。
object_rmb	0~100分，分数越高置信度越高	画面疑似包含人民币、硬币。
object_foreignCurrency	0~100分，分数越高置信度越高	画面疑似包含外国货币。
object_wn	0~100分，分数越高置信度越高	画面疑似包含特定形象。
object_carcrash	0~100分，分数越高置信度越高	画面疑似包含车祸内容。
object_candle	0~100分，分数越高置信度越高	画面疑似包含蜡烛内容。
object_flood	0~100分，分数越高置信度越高	画面疑似包含自然灾害内容。
pt_logotoSocialNetwork	0~100分，分数越高置信度越高	画面中含有常见网络社交平台水印。
pt_qrCode	0~100分，分数越高置信度越高	图中包含二维码。
pt_programCode	0~100分，分数越高置信度越高	图中包含小程序码。
pt_toDirectContact_tii	0~100分，分数越高置信度越高	图中文字疑似含有特定引流信息。更多信息，请参见内容安全控制台。
pt_toSocialNetwork_tii	0~100分，分数越高置信度越高
pt_toShortVideos_tii	0~100分，分数越高置信度越高
pt_investment_tii	0~100分，分数越高置信度越高
pt_recruitment_tii	0~100分，分数越高置信度越高
inappropriate_smoking	0~100分，分数越高置信度越高	画面疑似包含烟相关内容。
inappropriate_drinking	0~100分，分数越高置信度越高	画面疑似包含酒相关内容。
inappropriate_tattoo	0~100分，分数越高置信度越高	画面疑似包含纹身内容。
inappropriate_middleFinger	0~100分，分数越高置信度越高	画面疑似包含竖中指内容。
inappropriate_foodWasting	0~100分，分数越高置信度越高	画面疑似包含浪费粮食内容。
logo_brand	0~100分，分数越高置信度越高	画面疑似包含商标内容。
logo_tv	0~100分，分数越高置信度越高	画面疑似含有电视台标类标识。
logo_streaming	0~100分，分数越高置信度越高	画面疑似含有影音娱乐类标识。
profanity_oral_tii	0~100分，分数越高置信度越高	图中文字含不文明低俗口头语。
profanity_offensive_tii	0~100分，分数越高置信度越高	图中文字含严重辱骂内容。
meme_vulgar	0~100分，分数越高置信度越高	画面疑似含低俗表情包。
meme_metaphor	0~100分，分数越高置信度越高	画面疑似含隐喻表情包。

管理标签

除了红线类管控标签以外，其他风险标签均可以在控制台进行开关配置，部分风险标签会提供更细分检测范围的开关配置，具体参见内容安全控制台。

在左侧导航栏，选择API违规检测增强版>图片审核>规则配置。
在规则管理页签，以百炼输入图片检测（bailianQueryImageCheck）为例，单击操作列设置规则。
1. 选择需要调整的检测类型。
2. 单击编辑进入编辑模式，修改对应检测状态和中高风险分值。
3. 单击保存，保存新配置的检测范围。新配置的检测范围约2~5分钟生效并应用于生产环境。

五、更多操作说明

除了标签管理功能之外，内容安全控制台还支持配置自定义图库和自定义词库、查看调用结果以及查询用量等功能。

具体操作，请参见控制台操作指南。

说明

调整风险检测范围时可以通过选择服务场景为百炼场景，快速找到百炼专用的Service服务。结果查询中可以通过百炼Request查询特定的某条调用记录。