高频率智能审核解决方案

如何在满足业务需求的情况下,选择成本最优的智能审核方案,是每个直播平台面对的难题。本文介绍如何配置直播审核模板。

方案架构

image
  • 审核场景:对直播画面的涉黄、暴恐涉政、广告、不良场景四大维度进行审核。

  • 截帧:对于内容风险高的业务如核心主播或交友等类型,建议您采用高频截帧方案,大幅度规避危险内容曝光的可能性。对于业务风险相对不高的业务如游戏直播或赛事直播,建议您采用关键帧截帧方案,可做到优化成本。

说明

高频截帧或关键帧截帧功能上并无区别,只是建议您根据实际业务进行一个区分。

配置方式

操作步骤

说明

前提条件:

  • 开通直播服务并完成默认的OSS授权,详细操作请参见开通与购买视频直播,开通成功后,系统会将问题图片保存到您的OSS中。

  • 准备一个HTTP Server作为接收回调的服务。

  1. 登录视频直播控制台

  2. 在左侧导航栏选择功能管理 > 直播审核,进入直播审核页面。

  3. 在域名列表中选择您要配置的域名,单击添加

  4. 配置审核模板(您可根据您的需求选择以下模板)。

    • 视频审核。审核

      审核模板参数及说明如下表所示。

      参数

      描述

      AppName

      视频的应用名称,输入的AppName必须与直播推流的AppName保持一致,方可生效。如果您想要进行域名级别审核,输入星号(*)即可。

      审核场景

      目前支持审核以下四种场景。

      • 涉黄

      • 暴恐涉政

      • 广告

      • 无意义直播

      截图频率

      截图频率,单位:秒,取值范围:5~3600。

      存储位置

      选择截图文件在OSS上的存储位置。

    • 语音审核。语音审核

      审核模板参数及说明如下表所示。

      参数

      描述

      AppName

      视频的应用名称,输入的AppName必须与直播推流地址中的AppName名称保持一致,模板方可生效。区分大小写。

      StreamName

      输入的StreamName必须与直播推流地址中的StreamName名称保持一致,模板方可生效。区分大小写。

  5. 配置完成后,单击确定

  6. 内容审核。

    • 推流后,立即开始按照规则进行直播内容审核。

    • 当发现异常情况,会通过回调通知给使用方,并把有问题的图片保存到用户指定的OSS下。格式如下:

      {
          "DomainName": "example.aliyundoc.com",
          "AppName": "ondemand_oss",
          "StreamName": "gs0911_4",
          "OssEndpoint": "oss-cn-****.aliyuncs.com",
          "OssBucket": "mts-bucket-test",
          "OssObject": "customer/ondemand_oss/gs0911_4/150513102****.jpg",
          "Result": [
              {
                  "BizType": "default",
                  "Result": [
                      {"Label": "Porn", "Rate":100, "Suggestion": "review", "Scene":"porn", "Extent": {}},
                      {"Label": "Ad", "Rate":100, "Suggestion": "review", "Scene":"ad", "Extent": {}}
                  ]
              }
          ]
      }
      说明
      • DomainName:域名

      • AppName:应用名称

      • StreamName:流名

      • OssEndpoint:OSS endpoint地址

      • OssBucket:OSS Bucket名字

      • OssObject:存储对象名字

      • Result:检测结果

        • Label:对应检测结果标签

        • Rate:置信度

        • Suggestion:建议处理方式

        • Scene:检测场景

        • Extent:扩展字段