媒体审核服务基于海量标注数据和深度学习算法实现,从语音、文字、视觉等多维度精准识别媒体文件中包含的违禁内容,包括色情、暴恐、政治敏感、广告识别等多个功能模块,同时支持视频图像文件内容质量审核功能,应用于短视频平台、直播平台、传媒审核等场景。

使用限制

媒体审核中的视频审核功能,目前开通的地域为华北2(北京)、华东2(上海),其他地域暂不支持。

应用场景

  • 精准高效的UGC内容审核:海量UGC上传的视频,通过视频智能审核技术,快速检测违规内容,识别媒体质量问题,有效减少人工审核的工作量。
  • 实时准确的直播内容审核:实时监控直播视频流的语音、文字、画面内容,快速响应,控制业务风险。
  • 高效精准的点播内容审核:高效识别点播视频中的涉暴、涉政类镜头,紧跟时政最新动态,严控违规内容。

使用方法

媒体审核中的视频审核功能可以通过控制台创建视频审核任务或工作流触发。

说明 如您需要通过API创建媒体审核任务,请参考媒体审核操作。

使用准备

在使用前需要进行一些设置确保功能能够正常使用,如已设置请忽略。
  • 媒体处理操作的媒体资源均存放在OSS的Bucket中,需要添加媒体Bucket才可以在任务、工作流中选择对应的Bucket作为输入和输出路径。具体操作,请参见添加媒体Bucket
  • 开启管道。如果管道列表中没有您需要的管道类型,请先提交工单开通所需类型的管道。
  • 将需要处理的视频上传至OSS。具体操作,请参见上传视频
  • 可选:如您需要在工作完成后接收消息通知,请先配置消息通知服务。具体操作,请参见设置消息通知

创建视频审核单任务

  1. 登录媒体处理控制台
  2. 在顶部菜单栏左侧选择地域。
  3. 在左侧导航栏,选择任务管理
  4. 选择视频审核,单击创建任务
  5. 设置输入输出参数。
参数 说明
待处理文件地址

单击选择,在Bucket下拉列表中,选择Bucket名称。路径下方会显示对应Bucket已经创建好的文件夹,在文件夹下选择一个文件作为输出路径。

说明
  • 如果Bucket下拉列表中无可用Bucket,请先前往OSS在当前区域创建Bucket。具体操作,请参见添加媒体Bucket
  • 如果选择Bucket后,路径下方无可用文件,请先前往OSS在当前区域当前Bucket下上传文件。
  • 如果提示未开通OSS,请先前往OSS开通服务,开通地址请参见开通OSS
  • 如果提示角色错误或无权限,请登录阿里云账号前往访问控制RAM产品,为您当前登录的RAM用户授予OSS相关访问权限。您可以通过配置AliyunOSSFullAccess角色授予OSS的全部权限,或按需自定义权限。具体操作,请参见创建RAM用户并授权
视频审核管道 视频审核管道下拉列表中选择管道名称。
说明 如果视频审核管道下拉列表中没有管道名称,请先开启视频审核管道。具体操作,请参见开启管道
审核类型 默认勾选色情暴恐涉政
存储路径

单击选择,在Bucket下拉列表中,选择Bucket名称。路径下方会显示对应Bucket已经创建好的文件夹,在文件夹下选择一个文件作为输出路径。

说明
  • 当输出路径和待转码文件路径相同,如果文件不同名,则输出文件不会覆盖源文件。如果文件同名,是否覆盖由OSS配置决定,无需覆盖请参见禁止覆盖同名文件进行配置。配置后会导致同名文件转码完成后写入OSS失败,建议不要设置输出文件与源文件同名。
  • 其他常见问题请参见上文中待转码文件地址的说明。
  1. 单击提交任务,完成创建提交视频审核任务。

    任务提交后您可以在当前页签下方列表中查看任务的执行状态以及配置信息和输入、输出地址等。

创建审核工作流

  1. 登录媒体处理控制台
  2. 在顶部菜单栏左侧选择地域。
  3. 在左侧导航栏,选择工作流管理 > 工作流设置
  4. 单击创建工作流
  5. 设置工作流基础信息。
    参数 说明
    工作流名称 在文本框中输入工作流名称。
    配置方案 在下拉列表中选择自定义
    说明 为满足通用场景需求,媒体处理提供了多种预置工作流,您也可以在配置方案下拉列表中选择一个预置工作流的进行快速编辑。预置工作流说明如下:
    • M3U8:进行单张封面截图,并把视频转为M3U8格式。
    • 预置智能模板工作流:进行单张封面截图,并根据视频信息进行智能分析后转码,对转码后的标清视频截图。
    • 多码率多格式工作流:进行单张封面截图,并生成多种视频格式和码率视频。
    • FVLM3U8MP4多码率工作流:进行单张封面截图,并生成多码率视频。
    更多详情,请参见预置模板详情
  6. 设置输入节点。
    1. 点击输入节点右侧的笔形图标,进入输入设置页面。输入
    2. 设置输入参数。
      参数 说明
      输入路径 单击选择,在Bucket下拉列表中,选择Bucket名称。路径下方会显示对应Bucket已经创建好的文件夹,在文件夹下选择一个地址作为输入路径。
      说明 如果下拉列表中没有Bucket,请先添加Bucket。具体操作,请参见添加媒体Bucket
      转码管道 在下拉列表中选择管道。
      说明 如果转码管道下拉列表中没有管道名称,请先开启管道。具体操作,请参见开启管道
      (可选)消息通知 单击开关按钮,选择消息队列或消息主题,在下拉列表中选择一个队列通知或主题通知。
      说明 如果下拉列表中没有队列通知或主题通知,请先开启消息通知。具体操作,请参见设置工作流消息通知
    3. 单击确定,完成输入节点设置。
  7. 添加审核节点。
    1. 单击输入节点右侧加号图标选择审核
    2. 单击审核节点右侧笔形图标。设置
    3. 设置审核参数。
      参数 说明
      审核管道 在下拉列表中选择管道。
      说明 如果审核管道下拉列表中没有管道名称,请先开启视频审核专用管道。具体操作,请参见开启管道
      输出路径 单击选择,选择OSS输出地址。
      是否终止工作流 在选项中,根据实际需求进行选择。
    4. 单击确定,完成审核节点设置。
  8. 设置发布节点。
    1. 单击发布节点右侧笔形图标。
    2. 设置发布。
      参数 说明
      媒体发布类型 选择媒体发布类型自动
      • 手动发布:工作流执行成功后,将媒体设置为未发布状态,之后您可以手动发布该媒体。手动发布媒体文件,请参见媒体列表
      • 自动发布:工作流执行成功后,将媒体设置为发布状态。
        说明
        • 发布含义:设置媒体所有播放资源、截图文件的访问权限继承所在Bucket的访问权限。
        • 不发布含义:媒体所有播放资源、截图文件的访问权限为私有。
    3. 单击确定,完成发布节点设置。
  9. 单击保存,完成工作流创建。
    创建完成后,当有符合条件的新文件进入指定路径时,会自动触发工作流执行。