近些年来,视频直播快速发展,国家对于直播内容监管的要求日益严格,如何在满足业务需求的情况下,选择成本最优的智能审核方案,是每个直播平台面对的难题。本文介绍如何以最优成本配置直播审核模板。

功能介绍

  • 审核场景
    审核场景包含对直播画面的涉黄、暴恐涉政、广告、不良场景四大维度进行审核。
    场景 描述 Scene Label
    智能监黄 识别直播中的色情内容。 porn
    • normal:正常图片,无色情内容
    • sexy:性感图片
    • porn:色情图片
    暴恐涉政识别 识别直播中的暴恐涉政内容。 terrorism
    • normal:正常图片
    • bloody:血腥
    • explosion:爆炸烟光
    • outfit:特殊装束
    • logo:特殊标识
    • weapon:武器
    • politics:涉政
    • violence : 打斗
    • crowd:聚众
    • parade:游行
    • carcrash:车祸现场
    • others:其他
    广告识别 识别直播中的广告信息。 ad
    • normal:正常图片,无广告
    • ad:含广告图片
    不良场景识别 识别直播中出现的黑屏、黑边、昏暗画面,画中画,抽烟,打架等不良场景图片。 live
    • normal:正常图片
    • meaningless:无意义图片
    • PIP:画中画
    • smoking:吸烟
    • drivelive:车内直播
  • 截帧频率
    • 高频截帧:对于内容风险高的业务如核心主播或交友等类型,采用高频截帧方案,截帧频率为1-2秒,大幅度规避危险内容曝光的可能性。
    • 关键帧截帧:对于业务风险相对不高的业务如游戏直播或赛事直播,采用关键帧截帧方案,截帧频率为3s,可做到优化成本。

方案介绍



接入步骤

说明 接入前,您需要开通直播服务,并完成默认的OSS授权,问题图片会依赖此授权保存到您的OSS中。开通直播服务,参见 购买流程
  1. 您需要准备一个HTTP server作为接收回调的服务。
  2. 根据您的需求通过 视频直播控制台 配置审核策略。

    您还可以通过OpenAPI配置审核策略。

    说明 使用OpenAPI配置审核策略,参见AddLiveSnapshotDetectPornConfig
  3. 配置 回调地址,并单击 确定

  4. 内容审核。
    • 推流后,立即开始按照规则进行直播内容审核。
    • 当发现异常情况,会通过回调通知给使用方,并把有问题的图片保存到用户指定的OSS下。格式如下:
      {
          "DomainName": "qt01.alivecdn.com",
          "AppName": "ondemand_oss",
          "StreamName": "gs0911_4",
          "OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
          "OssBucket": "mts-bucket-test",
          "OssObject": "customer/ondemand_oss/gs0911_4/1505131029218.jpg",
          "Result": [
              {
                  "BizType": "default",
                  "Result": [
                      {"Label": "Porn", "Rate":100, "Suggestion": "review", "Scene":"porn", "Extent": {}},
                      {"Label": "Ad", "Rate":100, "Suggestion": "review", "Scene":"ad", "Extent": {}},
                  ]
              }
          ]
      }
      说明
      • DomainName: 域名
      • AppName: app
      • StreamName: 流名
      • OssEndpoint: Oss endpoint地址
      • OssBucket: Oss Bucket名字
      • OssObject: 存储对象名字
      • Result: 检测结果
        • Label: 对应检测结果标签
        • Rate: 置信度
        • Suggestion: 建议处理方式
        • Scense: 检测场景
        • Extent: 扩展字段