控制台操作指南

内容安全视频审核增强版服务,基于内容治理经验和众多行业场景的常见内容管理标准,为您预置了视频审核的通用策略配置,如果预置配置无法满足您的业务需求,您可以调整视频审核的策略。本文介绍如何调整视频审核的风险检测策略。

应用场景

当您的业务遇到如下场景时,您可以基于阿里云提供的视频审核增强版控制台实现对检测规则和检测范围的个性化调整,也可以通过控制台查询检测结果、统计检测量。

首次使用时,建议您登录内容安全控制台查看视频审核初始的检测策略配置。

应用场景

说明

调整视频审核的风险检测策略

您可以根据行业常见特性或自身业务所需,对视频检测的策略进行调整。支持调整的检测策略如下:

  • 画面检测范围

  • 语音检测范围

  • 结果返回方式

例如,您希望视频画面仅检测红线违规内容,且视频画面按照2秒/帧的频率进行审核,可以通过控制台设置画面检测的规则进行调整。

为多个业务设置差异化的风险检测策略

如您有多个业务需要用到同一个服务(service),但是希望每个业务设置的风险检测策略不同,则可以通过复制service实现不同业务设置不同检测策略的需求。

例如,您有A、B、C三个业务都需要用到视频文件检测(videoDetection)服务,但是三个业务标准不一致,您可以通过控制台复制videoDetection服务,创建videoDetection_01videoDetection_02服务,通过对这3个检测服务(service)设置不同的风险检测策略,从而满足不同业务的需求。

将视频截帧后的图片和音频切片后的文件进行转存

如您希望将视频截帧后的图片长期存储,可以配置将截帧画面转存到您的OSS存储桶中。

说明

系统默认会将视频截帧后的图片临时存储30分钟并通过API接口返回临时链接地址。证据转存功能仅支持国内接入区域开启。

逐条查询视频检测的详细结果

如您对于近期检测的视频,有进一步细节查看和分析的需求,可以通过结果查询页面查看或搜索。

统计近期视频检测量级

如您有统计和查看近期视频检测量级的需求,可以通过用量统计页面实现。

开通服务

访问内容审核增强版页面,开通视频审核增强版服务。

说明

开通视频审核增强版服务前,请先了解视频审核增强版的计费规则。更多信息,请参见视频审核增强版介绍及计费说明

调整视频审核的风险检测策略

根据行业常见特性或自身业务所需,对检测的范围和结果返回方式进行调整,以满足业务要求。

  1. 登录内容安全控制台

  2. 在左侧导航栏,选择API违规检测增强版 > 视频审核 > 规则配置

  3. 规则配置页面,单击视频文件检测(videoDetection服务操作设置规则

  4. 视频文件检测(videoDetection服务规则配置页面,根据业务需要调整相关配置。

    示例:要求每个视频都截取1000帧,检测画面是否有红线类违规,同时需要检测视频中语音是否违规,且返回所有检测结果,配置如下:

    1. 在画面截图方式处选择固定总数截帧,截帧总数输入框输入1000,画面审核规则选择通用基线检测

      关于画面审核规则的详细信息,请参见图片审核增强版介绍及计费说明

      image.png

    2. 开启审核语音开关,并勾选音视频媒体检测。

      image.png

    3. 勾选返回所有结果

      image.png

    4. 单击保存,保存新配置的检测规则。

      新配置的检测规则约2~5分钟生效。

为多个业务设置差异化的风险检测策略

根据不同业务的需求,对同一个服务(service)进行复制并设置不同的风险检测策略,以满足业务差异化的审核需求。

  1. 登录内容安全控制台

  2. 在左侧导航栏,选择API违规检测增强版 > 视频审核 > 规则配置

  3. 规则管理页面,对需要设置不同检测范围的服务(service)进行复制。

    1. 在service列表,单击视频文件检测服务(videoDetection操作复制按钮。

      image

    2. 复制Service对话框,填写服务名称服务备注信息。

      image.png

    3. 单击确定。创建成功之后,单击新创建服务(videoDetection_01操作设置规则,根据业务需要调整规则配置。

      image

      新服务(videoDetection_01)在创建成功后1~2分钟即可调用。您可以复制出多个服务(service),通过对不同服务(service)的规则进行调整,满足您差异化的风险检测场景需求。

将视频截帧后的图片和音频切片后的文件进行转存

对于视频的截帧图片和音频切片,可以设置保存到您自己的OSS存储桶中,以便于长期存储对应文件。

  1. 登录内容安全控制台

  2. 在左侧导航栏,选择API违规检测增强版 > 视频审核 > 规则配置

  3. 规则配置页面,单击需要配置的service服务操作设置规则,此处以视频文件检测(videoDetection服务为例

  4. 视频文件检测(videoDetection服务规则配置页面,选择结果处理配置tab页。

    示例:希望将视频截帧后的图片和音频切片后的文件转存到OSS存储桶的video-001文件夹下,转存所有结果,配置如下:

    1. 打开是否转存开关(初次打开时需要进行OSS授权),选择转存的bucket,选择转存内容范围,输入转存目录,设置访问链接有效期转存范围

      image

    2. 单击保存,保存证据转存配置。

      新配置的检测规则约2~5分钟生效。

逐条查询视频检测的详细结果

对于检测的视频,支持根据taskId、dataId、service、画面标签、语音标签、视频风险查询具体图片的详细检测结果。

  1. 登录内容安全控制台

  2. 在左侧导航栏,选择API违规检测增强版 > 视频审核 > 结果查询

  3. 结果查询页面,输入查询条件查询检测结果。

    如果希望搜索所有画面有命中标签的记录,则设置查询条件为画面标签不等于nonLabel。支持同时设置多个标签,使用半角逗号(,)分隔。

    说明

    默认按照时间由近及远的顺序展示,最多展示5万条数据。内容安全控制台提供近30天内的结果查询,建议您对调用接口的每次返回做数据或日志存储,以便于更长时间周期的数据分析和统计。

    image

    • 单击目标结果操作详情,查看视频审核的详细信息。

    • 单击目标结果操作列的音画结果,查看视频画面和视频语音的详细审核结果。

      画面审核结果页签,为您展示每一帧的截图以及每帧截图命中的标签信息。

      image

      语音审核结果页签,为您展示语音转文字结果和标签命中信息。

      image

      说明

      仅当您在视频审核设置中开启视频语音审核开关时才展示语音审核的结果。

统计近期视频检测量级

通过统计和查看近期视频检测量级,对具体视频内容制定进一步的审核或治理措施。

  1. 登录内容安全控制台

  2. 在左侧导航栏,选择API违规检测增强版 > 视频审核 > 用量统计

  3. 用量统计页面,选择时间段查询用量或导出用量情况。

    • 查询用量:支持按天和按月统计用量情况,统计数据保存一年,支持查询跨度为两个月的数据。

      • 曲线图统计视频审核服务任务数(视频个数)。

      • 柱状图统计画面及语音服务调用量(视频截帧审核张数及视频语音审核分钟数)。

        image.png

    • 导出用量:单击image.png图标,可以按天或者按月导出用量情况。导出的报表是Excel格式,只包含有调用量的数据。具体字段说明如下:

      名称

      含义

      单位

      账号uid

      导出的账号UID信息。

      service

      • 视频审核service

      • 视频画面审核service

      • 视频语音审核service

      用量

      调用总量。

      日期

      统计日期。

      日/月

    • 查看视频审核service的命中情况:在用量统计之后,会显示每个有调用service的标签命中情况。分为每天调用视频数曲线图和标签占比矩形树图。

      • 调用量柱状图:显示每天调用的视频文件命中标签和没有命中标签的请求次数。

      • 标签占比矩形树图:展示视频画面标签和视频语音标签的分布情况,且根据占比由多到少排列。同一类标签使用相同颜色展示。image.png