如何在满足业务需求的情况下,选择成本最优的智能审核方案,是每个直播平台面对的难题。本文介绍如何配置直播审核模板。

方案架构

  • 审核场景:对直播画面的涉黄、暴恐涉政、广告、不良场景四大维度进行审核。
  • 高频截帧:对于内容风险高的业务如核心主播或交友等类型,采用高频截帧方案,截帧频率为1秒~2秒,大幅度规避危险内容曝光的可能性。
  • 关键帧截帧:对于业务风险相对不高的业务如游戏直播或赛事直播,采用关键帧截帧方案,截帧频率为3秒,可做到优化成本。

配置方式

操作步骤

说明 前提条件:
  • 开通直播服务并完成默认的OSS授权,详细操作请参见开通与购买视频直播,开通成功后,系统会将问题图片保存到您的OSS中。
  • 准备一个HTTP Server作为接收回调的服务。
  1. 登录视频直播控制台
  2. 在左侧导航选择域名管理 > 域名配置
  3. 单击模版配置 > 审核配置 > 添加添加模板。
  4. 配置审核模板(您可根据你的需求选择以下模板)。
    • 视频审核。审核

      审核模板参数及说明如下表所示。

      参数 描述
      AppName 视频的应用名称,输入的AppName必须与直播推流的AppName保持一致,方可生效。如果您想要进行域名级别审核,输入星号(*)号即可。
      审核场景 目前支持审核以下四种场景。
      • 涉黄
      • 暴恐涉政
      • 广告
      • 无意义直播
      截图频率 截图频率,单位:秒,取值范围:5~3600。
      存储位置 选择截图文件在OSS上的存储位置。
    • 语音审核。语音审核

      审核模板参数及说明如下表所示。

      参数 描述
      AppName 视频的应用名称,输入的AppName必须与直播推流地址中的AppName名称保持一致,模板方可生效。区分大小写。
      StreamName 输入的StreamName必须与直播推流地址中的StreamName名称保持一致,模板方可生效。区分大小写。
  5. 配置完成后,单击确定
  6. 内容审核。
    • 推流后,立即开始按照规则进行直播内容审核。
    • 当发现异常情况,会通过回调通知给使用方,并把有问题的图片保存到用户指定的OSS下。格式如下:
      {
          "DomainName": "example.aliyundoc.com",
          "AppName": "ondemand_oss",
          "StreamName": "gs0911_4",
          "OssEndpoint": "oss-cn-****.aliyuncs.com",
          "OssBucket": "mts-bucket-test",
          "OssObject": "customer/ondemand_oss/gs0911_4/150513102****.jpg",
          "Result": [
              {
                  "BizType": "default",
                  "Result": [
                      {"Label": "Porn", "Rate":100, "Suggestion": "review", "Scene":"porn", "Extent": {}},
                      {"Label": "Ad", "Rate":100, "Suggestion": "review", "Scene":"ad", "Extent": {}}
                  ]
              }
          ]
      }
      说明
      • DomainName:域名
      • AppName:应用名称
      • StreamName:流名
      • OssEndpoint:OSS endpoint地址
      • OssBucket:OSS Bucket名字
      • OssObject:存储对象名字
      • Result:检测结果
        • Label:对应检测结果标签
        • Rate:置信度
        • Suggestion:建议处理方式
        • Scense:检测场景
        • Extent:扩展字段