文档

智能审核

智能审核基于海量标注数据和深度学习算法实现,从语音、文字、视觉等多维度精准识别视频、封面、标题等违禁内容,包括色情、暴恐、政治敏感等多个审核类型,广泛应用于短视频平台、传媒审核等场景,可有效提高视频的审核效率。本文为您介绍如何自定义智能审核模板并进行智能审核。

应用场景

  • UGC内容审核

    海量UGC(用户生成内容)上传的视频,通过视频智能审核技术,快速检测违规内容,识别媒体质量问题,有效减少人工审核的工作量。

  • 点播内容审核

    高效识别点播视频中的涉暴、涉政类镜头,紧跟时政动态,严控违规内容。

审核类型

审核类型

类型描述

审核结果分类

涉黄

检测媒体文件中是否包含色情、性感内容。

正常、色情、性感

暴恐涉政

检测媒体文件中是否包含暴恐或涉政类内容。

正常、血腥、爆炸烟光、特殊装束、特殊标识、武器、涉政、打斗、聚众、游行、车祸现场、旗帜、地标

广告识别

检测视频、图片中是否包含广告和文字违规信息。

正常、文字含涉政内容、文字含涉黄内容、文字含辱骂内容、文字含暴恐内容、文字含违禁内容、文字含其他垃圾内容、牛皮癣广告、含二维码、含小程序码、其他广告

不良画面检测

检测视频、图片中是否包含黑屏、黑边、昏暗画面、画中画、吸烟、车内直播等不良场景。

正常、图片中无内容(例如黑屏、白屏)、画中画、吸烟、车内直播

logo识别

检测视频、图片中是否包含logo信息,例如台标,商标等。

正常、含受管控的logo、含商标

语音反垃圾

检测视频、音频中是否包含语音垃圾信息,如广告、涉政、暴恐等。

正常、含垃圾信息、广告、涉政、暴恐、辱骂、色情、灌水、违禁、无意义、自定义(例如命中自定义关键词)

费用说明

视频点播的智能审核为收费服务,按审核视频总时长计费,计费详情请参见智能审核计费

注意事项

  • 目前仅华东2(上海)华北2(北京)新加坡地域支持使用智能审核服务,其中新加坡地域,需要提交工单进行开通申请,关于如何提交工单,请参见联系我们

  • 新加坡地域目前仅支持对涉黄暴恐涉政不良画面检测这三个类型的审核。

  • 音视频的最终审核结果由人工审核和智能审核结果共同决定,但人工审核的结果始终高于智能审核结果,即当人工审核和智能审核结果不一致时,按人工审核结果生效。

  • 经过媒体审核的音视频,仅状态为正常(Normal)时才能正常播放,状态为屏蔽(Blocked)或审核中(Checking)的音视频只能在视频点播控制台播放或通过审核安全IP进行播放,您将无法通过API/SDK获取到音视频的播放地址用于播放,但对于已经外泄的有效播放地址仍可以正常播放

前提条件

  • 已经开通了视频点播服务。开通步骤请参见开通视频点播

  • 审核的音视频需要上传到点播媒资库,具体操作,请参见媒体上传

如何使用

步骤一:(可选)配置智能审核模板

视频点播提供了系统预制的智能审核模板,并作为智能审核的默认审核模板。如果系统预制的模板不能满足您的需求,您可以按需自行创建智能审核模板。

说明
  • 预制模板无法更改配置和删除,其配置如下:

    • 审核类型:暴恐涉政、鉴黄

    • 审核范围:视频、封面、名称

    • 审核内容:画面

  • 最多支持添加20个自定义的智能审核模板。

控制台方式

  1. 登录视频点播控制台

  2. 在左侧导航栏选择审核管理 > 审核设置,进入到审核设置页面。

  3. 新建智能审核模板。

    1. 在审核设置页面,单击审核模板页签,进入到审核模板页面。

    2. 单击添加,进入到添加智能审核模板页面。

      参数名称

      参数说明

      模板名称

      设置模板名称,方便模板之间的区分。

      审核类型

      设置审核类型,可多选。取值:

      • 鉴黄

      • 暴恐涉政

      • 广告识别

      • logo识别

      • 不良画面检测

      • 语音反垃圾

      说明
      • 如需对音频进行审核,则审核类型需要勾选语音反垃圾

      • 新加坡地域的智能审核服务仅支持鉴黄、暴恐涉政和不良画面检测。

      审核范围

      设置视频的审核范围,可多选。取值:

      • 封面:对视频的封面进行审核。

      • 名称:对视频的名称进行审核。

      • 视频:对视频内容进行审核。

        说明
        • 审核的封面不可超过5张。

        • 审核的名称及弹幕不可超过128个字节。

        • 审核的视频时长不可超过6小时。

      审核内容

      当前仅支持视频画面。

      违规时自动屏蔽

      该功能开启后,将对机审结果为确认违规(由智能审核模板配置决定)的视频进行自动屏蔽播放。

      重要

      该功能为高危功能,请您慎重开启。

    3. 单击保存

  4. 设置智能审核的默认审核模板。

    • 方式一:在审核模板页签,单击需要作为默认审核模板所在行的设为默认

    • 方式二:在审核配置页签,单击智能审核区域下的修改配置,在机审模板的下拉选项中选择作为默认的智能审核模板后,单击确定

OpenAPI方式

  1. 调用AddAITemplate - 添加AI模板接口,新建智能审核模板。

  2. 调用SetDefaultAITemplate - 设置默认AI模板接口,设置智能审核的默认审核模板。

关于智能审核模板的修改、查询、删除等接口,请参见AI模板相关接口

步骤二:(可选)配置事件通知

建议您发起智能审核任务之前,配置视频点播的事件通知,以便在智能审核任务完成后,能从接收到的回调消息中获取到智能审核任务的状态及审核结果等信息。事件通知的配置方法,请参见回调设置

智能审核需要开启的事件通知类型如下:

步骤三:发起智能审核作业

配合视频点播工作流能力的应用,可以实现在视频点播中上传音视频时自动触发智能审核,或在上传音视频后手动触发智能审核。

控制台方式

场景一:上传音视频时自动触发智能审核

  1. 创建包含智能媒资审核节点的工作流。

    在工作流中添加智能媒资审核节点,并设置审核模板为系统预制审核模板或步骤一:(可选)配置智能审核模板中自行创建的智能审核模板。工作流的创建方法,请参见工作流管理

  2. 上传音视频并选择用工作流进行处理。

    1. 在视频点播控制台,从左侧导航栏选择媒资库 > 音/视频

    2. 单击上传音/视频,单击添加音/视频

    3. 按需设置上传方式、存储地址并添加上传的视频后,选择用工作流处理,并选择上一步创建的包含智能媒资审核节点的工作流。

    4. 单击开始上传

场景二:上传音视频后手动触发智能审核

  • 方式一:在点播控制台的媒资库发起智能审核

    1. 创建包含智能媒资审核节点的工作流。

      在工作流中添加智能媒资审核节点,并设置审核模板为系统预制审核模板或步骤一:(可选)配置智能审核模板中自行创建的智能审核模板。工作流的创建方法,请参见工作流管理

    2. 在媒资库选择用工作流发起媒体处理。

      1. 在视频点播控制台,从左侧导航栏选择媒资库 > 音/视频

      2. 在音/视频列表页面,单击目标音视频所在行的媒体处理

      3. 处理类型选择用工作流处理工作流选择上一步创建的包含智能媒资审核节点的工作流。

      4. 单击确定

  • 方式二:在点播控制台的视频审核页面发起智能审核

    1. 登录视频点播控制台

    2. 在左侧导航栏选择审核管理 > 视频审核,进入到视频审核页面。

    3. 选择您需要审核的音/视频。

      支持按上传时间(全部时间自定义时间)、媒体名称媒体ID对音/视频进行筛选和检索。

    4. 开始智能审核。

      • 初次智能审核的音/视频(机审状态未开启):单击操作列的智能审核,系统将按照步骤一中设置的默认审核模板进行审核。

      • 重新智能审核的音/视频(机审状态审核失败审核成功):单击操作列的重新审核,系统将按照步骤一中设置的默认审核模板进行审核。

OpenAPI方式

场景一:上传音视频时自动触发智能审核

  1. 创建包含智能媒资审核节点的工作流。

    在工作流中添加智能媒资审核节点,并设置审核模板为系统预制审核模板或步骤一:(可选)配置智能审核模板中自行创建的智能审核模板。工作流的创建方法,请参见工作流管理

  2. 调用下述媒资上传相关接口时,将WorkflowId参数设置为上一步创建的包含智能审核节点的工作流ID,并按需自定义其他参数,完成媒资上传。

场景二:上传音视频后手动触发智能审核

通过接口发起智能审核作业时,传入TemplateId参数,则可以指定智能审核模板进行审核,若不传,则将按照步骤一中设置的默认审核模板进行审核。

  • 音视频:调用SubmitAIMediaAuditJob - 提交音视频智能审核作业接口,对上传到视频点播中的音视频资源发起智能审核作业。

  • 图片:调用SubmitAIImageAuditJob - 提交图片智能审核作业接口,对上传到视频点播中的图片资源发起智能审核作业。

    说明

    调用接口进行图片审核时,使用限制如下:

    • 单个图片大小不超过20 MB,高度或宽度不超过30000px,且图片总像素不超过2.5亿px。

    • (建议)图片像素不低于256×256px,像素过低可能会影响审核效果。

步骤四:查看审核结果

说明
  • 智能审核结果中的图片资源仅在点播提供的免费存储上保留2周时间,超过2周将自动删除。

  • 如果您已配置事件通知,可以通过接收智能审核完成回调消息获取审核结果详情。

控制台方式

  1. 登录视频点播控制台

  2. 在左侧导航栏选择审核管理 > 视频审核,进入到视频审核页面。

  3. 在视频审核列表页查看视频的审核信息。

    其中,机审状态审核模板机审结果违规项为智能审核相关信息,各参数说明如下:

    参数名称

    参数说明

    视频

    展示音视频的名称、音视频ID及存储地址。

    机审状态

    机器审核的状态,取值如下:

    • 未开启:表示该音视频还未进行过机审。

    • 审核成功:表示该音视频机审完成并机审成功,其审核模板列将展示所使用的机审模板,机审结果列会显示违规疑似正常的结果。

    • 审核失败:表示该音视频机审完成但机审失败,其审核模板列将展示所使用的机审模板,机审结果列会显示为--

    • 审核中:表示该音视频正处于首次机审中。

    • 重新审核中:表示该音视频正处于重新机审中。

    审核模板

    智能审核所使用的模板,可在步骤一:(可选)配置智能审核模板中设置。

    机审结果

    智能审核的结果。取值如下:

    • 违规:表示该音视频存在机审模板中配置的违规内容,其违规项列将显示具体的违规项。

    • 疑似:表示该音视频可能存在机审模板中配置的违规内容,其违规项列将显示可能存在的违规项,建议对该资源进行人工审核再次确认。

    • 正常:表示该音视频不存在机审模板中配置的违规内容,其违规项列将显示为normal

    • --:表示该音视频未进行过机审或机审失败。

    违规项

    智能审核所检测出的违规项。取值包括:鉴黄、暴恐涉政、广告、logo、不良画面、语音、normal、--。其中,--表示该音视频还未进行过机审,其。

    人审状态

    人工审核的状态。取值如下:

    • 未审核:表示该音视频还未进行过人工审核,其终审结果列会显示为--

    • 审核完成:表示该音视频已完成人工审核,其终审结果列会显示为通过屏蔽

    终审结果

    视频审核的最终结果。取值如下:

    • 通过:通过状态的音视频可以正常播放。

    • 屏蔽:屏蔽状态的音视频只能在视频点播控制台播放或通过审核安全IP进行播放,您将无法通过API/SDK获取到音视频的播放地址用于播放,但对于已经外泄的有效播放地址仍可以正常播放。

    • --:表示该音视频还未进行机器审核和人工审核,其是否能正常播放,取决于在点播控制台 > 媒资库 > 音/视频页面所展示的状态是否为正常

    操作

    对音视频可执行的操作,包括查看审核详情、发起智能审核或人工审核。

  4. 看单个音视频的审核详情信息。

    单击操作列的详情进入视频审核详情页面,页面将展示音视频的播放预览画面、音视频的名称、ID、人审结果和机审结果等信息,并可在本页面对音视频进行播放查看及人工审核结果判定。

OpenAPI方式

更多有关智能审核任务和结果的接口,请参见智能审核相关接口

SDK示例

  • 本页导读 (1)