AI 助理
文档备案控制台
官方文档
输入文档关键字查找
首页

直播审核

更新时间：
复制为 MD 格式
产品详情
我的收藏

视频直播提供智能审核服务，来对直播内容的合规进行审核，包括视频审核和语音审核的功能。直播审核采用截帧画面和音频进行审核，自动检测视频直播内容或音频数据是否涉嫌违规。违规的内容将会存储至OSS，用户可进行查询，并对违规内容进行处理。

前提条件

  • 目前仅部分直播中心支持直播智能审核，具体支持该功能的直播中心，请参见服务地域。

  • 视频审核与语音审核均为付费服务，请您确保在使用前已充分了解智能审核服务的收费方式和价格。详细费用请参见智能审核费用。

  • 视频截图存储在OSS中，会产生存储费用，在OSS中计费。详细费用请参见存储费用。

背景信息

智能审核服务基于海量标注数据和深度学习算法，从语音、视觉等多维度精准识别直播流中的违禁内容。支持涉黄、暴恐、涉政、广告等多种违规内容的检测，同时涵盖无意义直播和音频审核功能，有效降低违规风险并减少人工审核成本。其中，视频审核通过截帧画面检测直播内容是否违规，语音审核则识别音频流内容是否存在违规行为，所有违规内容将通过回调方式通知用户进行处理。

配置审核模板

控制台操作指引

  1. 登录视频直播控制台。

  2. 在左侧导航栏单击功能管理>直播审核，进入直播审核页面。

  3. 选择您要配置的播流域名，单击视频审核或者语音审核页签。

  4. 单击添加，配置审核模板。

    • 视频审核

      审核模板参数及说明如下表所示。

      参数

      描述

      AppName

      视频的应用名称，输入的AppName必须与直播推流的AppName保持一致，方可生效。也支持取值为单个星号（*）字符，即可匹配所有AppName。

      审核场景

      目前支持审核以下四种场景。

      • 涉黄

      • 暴恐涉政

      • 广告

      • 无意义直播

      截图频率

      截图频率，单位：秒，取值范围：5~3600。

      存储位置

      选择截图文件在OSS上的存储位置。

    • 语音审核

      审核模板参数及说明如下表所示。

      参数

      描述

      AppName

      视频的应用名称，输入的AppName必须与直播推流地址中的AppName名称保持一致，模板方可生效。区分大小写。

      StreamName

      输入的StreamName必须与直播推流地址中的StreamName名称保持一致，模板方可生效。区分大小写。

  5. 配置参数后，单击确定。

API操作指引

配置回调地址

控制台操作指引

  1. 在视频审核或者语音审核页签下，设置回调地址。

    单击回调地址右侧的编辑图标。

  2. 输入回调地址。

  3. 在您的回调服务器中查看回调信息。回调信息的格式与示例，请参见事件回调。

  4. 在OSS中查找识别的内容。

    您可以根据审核回调信息，在OSS控制台查找指定的审核内容。

    • 根据AppName与StreamName查找指定的审核内容。

    • 根据推流日期查找指定的审核内容。

API操作指引

回调格式说明

视频审核默认回调格式说明

只会对有问题的视频内容进行回调通知，通知内容包含问题视频截图的审核信息和存储信息。

{
 "DomainName": "example.com",
 "AppName": "liveApp****",
 "StreamName": "liveStream****",
 "OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
 "OssBucket": "liveBucket****",
 "OssObject": "liveObject****.jpg",
 "Result": [
     {
         "BizType": "example.com",
         "Result": [
             {"Label": "Porn", "Rate":11.1, "Suggestion": "review", "Scene":"porn", "Extent": {}},
             {"Label": "Ad", "Rate":11.1, "Suggestion": "review", "Scene":"ad", "Extent": {}}
         ]
     }
 ]
}

参数说明

参数

类型

描述

DomainName

String

播流域名。

AppName

String

应用名称。

StreamName

String

流名称。

OssEndpoint

String

存储对象Endpoint。

OssBucket

String

存储对象的Bucket。

OssObject

String

存储对象的文件名。

Result

JSONArray

检测结果。请参见Result。

表 1. Result

参数

类型

描述

BizType

String

业务类型。可用于选择模型，默认值为域名。

Scene

String

检测场景

  • porn：鉴黄。

  • terrorism：暴恐涉政。

  • ad：图文违规。

  • live：不良场景。

  • logo：图片logo。

Label

String

检测结果的分类。不同检测场景的结果分类不同。详细参数，请参见Label。

Rate

Float

置信度分数。取值范围：0（表示置信度最低）~100（表示置信度最高）。

说明

该值仅作为参考，强烈建议您不要在业务中使用。建议您参考Label结果用于内容违规判定。

Extent

JSONObject

预留字段。

表 2. Label

参数

类型

描述

porn

String

图片智能鉴黄结果分类：

  • normal：正常。

  • sexy：性感。

  • porn：色情。

terrorism

String

图片暴恐涉政结果分类：

  • normal：正常。

  • bloody：血腥。

  • explosion：爆炸烟光。

  • outfit：特殊装束。

  • logo：特殊标识。

  • weapon：武器。

  • politics：涉政。

  • violence ：打斗。

  • crowd：聚众。

  • parade：游行。

  • carcrash：车祸现场。

  • flag：旗帜。

  • location：地标。

  • others：其他。

ad

String

图文违规结果分类：

  • normal：正常。

  • ad：其他广告。

  • npx：牛皮癣广告。

  • qrcode：含二维码。

  • programCode：含小程序码。

live

String

不良场景结果分类：

  • normal：正常。

  • meaningless：图片中无内容（例如，黑屏、白屏）。

  • PIP：画中画。

  • smoking：吸烟。

  • drivelive：车内直播。

logo

String

图片logo结果分类：

  • normal：正常。

  • TV：含受管控的logo。

  • trademark：含商标。
说明

默认新用户将使用此版本，老用户维持不变，如需使用此版本，请您提交工单。关于如何提交工单，请参见联系我们。

语音审核默认回调格式说明

只会对有问题的音频内容进行回调通知，通知内容包含问题语音的文本信息以及最近一分钟内的上下文信息。

{
    "domain": "example.com",
    "app": "liveApp****",
    "stream": "5d9747eba39b44769852d276f9ff****",
    "timestamp": 1572248095,
    "result": [
        {
            "scene": "antispam",
            "label": "ad",
            "suggestion": "block",
            "rate": 99.91,
            "details": [
                {
                    "startTime": 1572248023,
                    "endTime": 1572248040,
                    "text": "大理陇川等酒店免费居住权120天居住权可与亲友共享来云栖社国际烧酒店接待中心地址芒市团结大街96号一一ktv旁咨询热线2285699",
                    "label": "ad"
                },
                {
                    "startTime": 1572248040,
                    "endTime": 1572248070,
                    "text": "典藏经典别墅尊享梁河金塔、旅游小镇二期滨湖苑地区11月2号盛大开盘天然龙窝、泉水入户户型多样，设计经典价位超值，值得您拥有开盘当天还有超值优惠，欢迎您前来品鉴，凭借地址，然和县遮岛镇先锋路229号分享热线069269557776955777",
                    "label": "normal"
                },
                {
                    "startTime": 1572248072,
                    "endTime": 1572248077,
                    "text": "快乐的时光，有你相伴惬意的日子，格外轻松。",
                    "label": "normal"
                },
                {
                    "startTime": 1572248078,
                    "endTime": 1572248086,
                    "text": "fme043忙里偷闲音乐时光有歌曲温暖，有你想念影院。",
                    "label": "normal"
                }
            ]
        }
    ]
}

参数

类型

描述

domain

String

播流域名。

app

String

应用名称。

stream

String

流名称。

timestamp

Int

回调时间戳。单位：秒。

result

JSONArray

检测结果。请参见Result。

表 2. Result

参数

类型

描述

scene

String

检测场景。

label

String

检测结果的分类。取值：

  • normal：正常文本

  • spam：含垃圾信息

  • ad：广告

  • politics：涉政

  • terrorism：暴恐

  • abuse：辱骂

  • porn：色情

  • flood：灌水

  • contraband：违禁

  • meaningless：无意义

  • customized：自定义（例如命中自定义关键词）

suggestion

String

处理建议。取值：

  • pass：结果正常，无需进行其余操作。

  • review：结果不确定，需要进行人工审核。

  • block：结果违规，建议直接删除或者限制公开。

rate

Float

置信度分数。取值范围：0（表示置信度最低）~100（表示置信度最高）。

说明

该值仅作为参考，强烈建议您不要在业务中使用。建议您参考Label结果用于内容违规判定。

details

JSONArray

语音对应的文本详情，每一句文本对应一个元素，可以包含一个或者多个元素。关于每个元素的结构描述，请参见Detail。

表 3. Detail

参数

类型

描述

startTime

Int

句子开始的时间戳，单位：秒。

endTime

Int

句子结束的时间戳，单位：秒。

text

String

问题语音转换成文本的结果。

label

String

检测结果的分类。取值：

  • normal：正常文本

  • spam：含垃圾信息

  • ad：广告

  • politics：涉政

  • terrorism：暴恐

  • abuse：辱骂

  • porn：色情

  • flood：灌水

  • contraband：违禁

  • meaningless：无意义

  • customized：自定义（例如命中自定义关键词）

常见问题

直播审核服务支持自定义敏感词吗？

您好， 暂不支持自行添加敏感词。

直播审核服务，是否支持其他平台带鉴权参数的直播流地址？

直播审核功能不支持其它平台的直播流地址。

上一篇：直播时移下一篇：直播封装