如何在满足业务需求的情况下,选择成本最优的智能审核方案,是每个直播平台面对的难题。本文介绍如何以最优成本配置直播审核模板。

场景概述

  • 审核场景:对直播画面的涉黄、暴恐涉政、广告、不良场景四大维度进行审核。
  • 高频截帧:对于内容风险高的业务如核心主播或交友等类型,采用高频截帧方案,截帧频率为1秒~2秒,大幅度规避危险内容曝光的可能性。
  • 关键帧截帧:对于业务风险相对不高的业务如游戏直播或赛事直播,采用关键帧截帧方案,截帧频率为3秒,可做到优化成本。

方案架构

配置方式

操作步骤

说明 前提条件:
  • 开通直播服务并完成默认的OSS授权,详细操作请参见开通与购买视频直播,开通成功后,系统会将问题图片保存到您的OSS中。
  • 准备一个HTTP Server作为接收回调的服务。
  1. 登录视频直播控制台
  2. 在左侧导航选择域名管理
  3. 单击域名后的域名配置
  4. 配置 回调地址,单击 确定
  5. 选择模版配置 > 审核模版,根据您的需求配置审核策略。
  6. 配置完成后,单击确定
  7. 内容审核。
    • 推流后,立即开始按照规则进行直播内容审核。
    • 当发现异常情况,会通过回调通知给使用方,并把有问题的图片保存到用户指定的OSS下。格式如下:
      {
          "DomainName": "qt01.alivecdn.com",
          "AppName": "ondemand_oss",
          "StreamName": "gs0911_4",
          "OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
          "OssBucket": "mts-bucket-test",
          "OssObject": "customer/ondemand_oss/gs0911_4/1505131029218.jpg",
          "Result": [
              {
                  "BizType": "default",
                  "Result": [
                      {"Label": "Porn", "Rate":100, "Suggestion": "review", "Scene":"porn", "Extent": {}},
                      {"Label": "Ad", "Rate":100, "Suggestion": "review", "Scene":"ad", "Extent": {}}
                  ]
              }
          ]
      }
      说明
      • DomainName:域名
      • AppName:应用名称
      • StreamName:流名
      • OssEndpoint:OSS endpoint地址
      • OssBucket:OSS Bucket名字
      • OssObject:存储对象名字
      • Result:检测结果
        • Label:对应检测结果标签
        • Rate:置信度
        • Suggestion:建议处理方式
        • Scense:检测场景
        • Extent:扩展字段