人工审核增强版操作指南_内容安全(Content Moderation)-阿里云帮助中心

本人介绍人工审核增强版和人机审核的用户控制台操作。

应用场景

当您的业务遇到如下场景时，您可以基于阿里云提供的人工审核增强版控制台实现对检测规则和检测范围的个性化调整，可以配置人机审核流程，也可以通过控制台查询检测结果、统计检测量。

应用场景	说明
纯人工审核服务接入	如果您只需要接入纯人工审核的服务，则只需要接入人工审核API接口即可。接入人工审核服务之前，请找商务同学确定好您的检测规则配置。
人机审核服务配置	如果您使用了内容安全机器审核增强版服务，同时希望机器审核之后需要人工审核的数据直接进入人审环节，则可以在机器审核Service服务中配置人机审核规则，让满足要求的机审数据，直接进入人审环节。例如，您使用了内容安全图片审核增强版头像图片检测（profilePhotoCheck）服务，希望风险等级为中风险的数据在机审完之后直接进入人工审核环节，则可以在头像图片检测服务中打开人机审核开关，配置中风险数据流入人审，这样机审为中风险的数据会直接进入人审环节，人审结束之后会以回调的方式通知审核结果。
为多个业务设置差异化的风险检测范围	如您有多个业务需要用到同一个服务（service），但是希望每个业务设置的风险检测范围不同，则可以通过复制service实现不同业务设置不同审核规则的需求。例如，您有A、B、C三个业务都需要用到通用基线检测（baselineCheck）服务，但是三个业务标准不一致，您可以通过控制台复制baselineCheck服务，创建baselineCheck_01，baselineCheck_02服务，通过对这3个service设置不同的风险检测范围，从而满足不同业务的需求。
查询人工审核的详细结果/对人审结果进行复审	如您对于近期检测的人工审核结果，有进一步细节查看和分析的需求，可以通过结果查询页面查看或搜索。如您需要对人审的结果进行复审，也可以通过结果查询页面进行人工审核结果的复审操作。
统计近期人工审核量级	如您有统计和查看近期人工审核风险分布和检测量级的需求，可以通过用量统计页面实现。

前提条件

访问人工审核增强版页面，开通人工审核增强版服务。

说明

开通人工审核增强版服务前，请先了解人工审核增强版的计费规则。更多信息，请参见人工审核增强版介绍及计费说明。

纯人工审核服务接入

如果您是纯人工审核的接入需求，则直接接入人工审核增强版检测API传入需要审核的数据即可。

开通内容安全人工审核增强版按量付费。
对接人工审核增强版异步检测API，推荐使用人工审核增强版SDK方式接入。
支持图片、文本、语音、视频人工审核服务接入，支持的审核服务和标签请查看内容安全人工审核控制台。
1. 登录内容安全控制台。
2. 在左侧导航栏，选择人工审核增强版 > 规则配置。
3. 在该页面可以查看所有的图文音视人工审核Service，也可以单击查看标签，查看服务支持的标签。
对接完人工审核API接口之后，调用API接口传入对应的数据即可使用人工审核服务。

人机审核服务配置

针对使用内容安全增强版机器审核API的客户，希望某部分满足条件的数据直接进入人审环节，返回人工审核结果，则可以通过人机审核配置满足需求。

开通内容安全人工审核增强版按量付费。
登录内容安全控制台。
在左侧导航栏，选择机器审核增强版 > 图片审核。
在规则管理页签，以图片审核增强版的头像图片检测（profilePhotoCheck）服务为例，单击头像图片检测服务操作列设置规则。
选择人机审核配置TAB页，进行人机审核配置。
1. 打开开启人机审核开关。
2. 选择流入人审内容，该处以中风险流入人审为例，选择中风险复选框。
3. 选择人审审核规则和回调通知方案。
  - 回调通知方案复用OSS违规检测普惠版的通知方案，流入人审的结果会全部返回。
4. 单击保存，对人机审核的配置进行保存。
  新配置的人机审核服务会在2-5分钟生效，生效之后符合条件的机审结果会直接进入人审环节。人审的结果可以通过人审TaskId查询，也可以通过回调的方式进行返回。
  说明
  命中人机审核规则的机审数据会直接进入人审环节，机审结果中会增加ManualTaskId字段用于查询人审的结果，人工审核结果可以通过回调获取，也可以通过人工审核增强版API查询。

为多个业务设置差异化的风险检测范围

根据不同业务的需求，对同一个service进行复制并设置不同的风险检测范围，以满足业务差异化的审核需求。

登录内容安全控制台。
在左侧导航栏，选择人工审核增强版 > 规则配置。
在规则管理页签，对需要设置不同检测范围的service进行复制，此处以复制图片人工审核服务（imageManualCheck）为例。
1. 在service列表页中，单击图片人工审核服务操作列复制按钮。
2. 弹出复制Service面板，输入服务名称和服务说明。
3. 单击创建，保存复制service的信息，即可创建成功。新service在创建成功后1到2分钟即可调用。
4. 创建成功之后，您可以对复制出的imageManualCheck_01服务进行设置和编辑操作。通过分别调用imageManualCheck_01服务和imageManualCheck服务，即可满足您不同业务设置不同风险检测范围的需求。

查询人工审核的详细结果/对人审结果进行复审

对于人工审核和人机审核的结果，支持根据流入时间、人审类型、人审结果、违规类型、TaskId、DataId、复审状态等来查询具体人审的详细检测结果。

登录内容安全控制台。
在左侧导航栏，选择人工审核增强版 > 结果查询。
在结果查询页面，输入查询条件查询检测结果。
- 结果查询：支持的查询条件包括：流入时间、人审类型、人审结果、违规类型、服务Service、TaskId、机审RequestId、DataId、复审状态、复审违规类型。
说明
默认按照时间由近及远的顺序展示，最多展示5万条数据。人工审核控制台提供近7天内的结果查询，建议您对调用接口的每次返回做数据或日志存储，以便于更长时间周期的数据分析和统计。
- 人工复审：如果您需要对人工审核结果进行复审，可以在结果列表中的复审操作中进行无风险和高风险的复审操作，支持多选批量操作。
- 详细结果：您可以单击指定内容的详细结果按钮查看详细信息，包括机审信息、人审信息和复审信息。

统计近期人工审核量级

通过统计和查看近期人工审核检测量级，对具体图片内容制定进一步的审核或治理措施。

登录内容安全控制台。
在左侧导航栏，选择人工审核增强版 > 用量统计。
在用量统计页面，选择时间段查询用量或导出用量情况。
- 查询用量：支持按天和按月统计用量情况，统计数据保存一年，支持查询跨度为两个月的数据。
- 导出用量：单击页面右上角的图标，可以按天或者按月导出用量情况。
  导出的报表是Excel格式，只包含有调用量的数据，导出表单中出现的行头字段说明如下。
  名称
  含义
  单位
  账号uid
  导出的账号UID信息
  无
  service
  调用检测服务信息
  无
  用量
  调用总量
  次
  日期
  统计日期
  日/月
- 查看风险情况：在用量统计页面，支持显示整体的风险等级命中情况、风险趋势、风险分布情况。
  - 风险量级总览：显示整体的无风险和高风险量级情况。
  - 趋势统计：显示所选时间段内每天/每月的各风险等级量级情况。
  - 风险分布：显示所选时间段内Top5的风险标签和所有的风险标签分布占比情况。

名称	含义	单位
账号uid	导出的账号UID信息	无
service	调用检测服务信息	无
用量	调用总量	次
日期	统计日期	日/月