基于大模型的语音审核服务

服务概览

语音审核大模型针对语音场景的内容风险特性，定制训练千问审核大模型，提供以下服务：

• 音视频媒体检测_大模型版：

  基于通义大模型检测语音文件中的违规风险，支持中文（普通话、四川话、闽南语、吴语、粤语）等多种方言识别，适用于文件上传、批量审核场景。

• 音视频媒体检测_大模型出海版：

  针对出海的语音文件审核场景，支持中文、英语、日语、德语、韩语、俄语、法语、葡萄牙语、阿拉伯语、意大利语、西班牙语、印地语、印尼语、泰语、土耳其语、乌克兰语、越南语、捷克语、丹麦语、菲律宾语、芬兰语、冰岛语、马来语、挪威语、波兰语、瑞典语等26种语种的语音审核。

• 社交娱乐直播检测_大模型版：

  基于通义大模型实时检测直播流语音中的违规风险，支持中文（普通话、四川话、闽南语、吴语、粤语）等语种识别，适用于实时流审核、低延迟检测场景。

• 社交娱乐直播检测_大模型出海版：

  针对出海的语音直播流审核场景，支持中文、英语、日语、德语、韩语、俄语、法语、葡萄牙语、阿拉伯语、意大利语、西班牙语、印地语、印尼语、泰语、土耳其语、乌克兰语、越南语、捷克语、丹麦语、菲律宾语、芬兰语、冰岛语、马来语、挪威语、波兰语、瑞典语等26种语种的语音审核。

服务选型

计费说明

语音审核大模型服务支持按量后付费和资源包抵扣两种付费方式。

按量后付费

开通语音审核增强版服务后，默认按量后付费，按实际用量结算当日费用，不调用服务不收费。

接入指南

步骤一：开通服务

访问开通服务，开通语音审核增强版服务。

开通语音审核增强版服务后，默认付费方式是按量后付费，且按照实际用量结算当日费用，不调用服务不收费。接口接入使用后系统会按使用量自动出账，具体信息，请参见计费说明。也可购买按量抵扣资源包，资源包相较于后付费存在一定阶梯折扣，适合使用量级可预期和较大的用户。

步骤二：为RAM用户授权

接入SDK或API前，需要为RAM用户授权。为阿里云账号和RAM用户创建访问密钥（AccessKey），调用API时使用AccessKey完成身份验证。获取方式，请参见获取AccessKey。

1. 使用阿里云账号（主账号）或RAM管理员登录RAM控制台。

2. 创建RAM用户。具体操作，请参见创建RAM用户。

3. 向RAM用户授权系统策略权限：AliyunYundunGreenWebFullAccess。具体操作，请参见管理RAM用户的权限。完成以上配置后，可以使用RAM用户调用内容安全API。

授权完成后，使用RAM用户的AccessKey调用一次API，返回正常响应即表示授权成功。

步骤三：安装并接入SDK

请参考语音审核增强版2.0版SDK及接入指南，目前支持的接入地域如下：

步骤四：调整语音审核的规则（可选）

可在内容安全控制台调整语音审核大模型的检测规则，包括文本审核规则、复制service、配置自定义词库、查询检测记录、查询用量等。

规则调整完成后，提交一个测试审核任务，在控制台的检测记录中确认新规则已生效。

API接口

使用说明

调用该接口创建语音内容检测任务。关于如何构造HTTP请求，请参见HTTP原生调用；也可直接选用已构造好的HTTP请求，更多信息，请参见语音审核增强版SDK及接入指南。

• 业务接口：

  • 提交审核任务：VoiceModeration

  • 查询审核任务：VoiceModerationResult

  • 取消审核任务：VoiceModerationCancel

• 计费信息：

  该接口为收费接口。仅对HTTP状态码为200的请求进行计量计费，产生其他错误码时不会计费。关于计费方式，请参见计费说明。

• 服务性能：

  服务性能	说明
  音频文件大小	增强版支持音频文件的大小限制为500 MB。
  音频文件格式	支持音频文件格式：MP3、WAV、AAC、WMA、OGG、M4A、AMR。 支持视频文件格式：AVI、FLV、MP4、MPG、ASF、WMV、MOV、RMVB、RM。
  音频直播流	支持以下协议：RTMP、HLS、HTTP-FLV、RTSP。
  请求频率（QPS）	提交任务请求频率（QPS）为100次/秒。
  并发路数	增强版支持的默认并发路数限制为50路。

提交审核任务

请求参数

返回参数

示例

• 请求示例

{
    "Service": "audio_detection_byllm",
    "ServiceParameters": {
        "cryptType": "SHA256",
        "seed": "abc***123",
        "callback": "https://aliyun.com/callback",
        "url": "http://aliyundoc.com/test.mp3"
    }
}

• 正常返回示例

{
    "Code": 200,
    "Data": {
        "TaskId": "AAAAA-BBBBB",
        "DataId": "voice20240307***"
    },
    "Message": "SUCCESS",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

查询任务结果

直播类型审核任务过程中，查询结果会返回最近N条语音片段数据。任务审核完成后，查询结果会返回全部语音片段数据。

• 查询审核任务：VoiceModerationResult。

• 计费信息：该接口不计费。

• 查询超时：建议将查询间隔设置为30秒（即在提交异步检测任务30秒后查询结果），最长不能超过24小时，否则结果将会自动删除。

返回参数

示例

请求示例

{
    "Service": "audio_detection_byllm",
    "ServiceParameters": {
        "taskId": "AAAAA-BBBBB"
    }
}

正常返回示例

{
    "Code": 200,
    "Data": {
        "DataId": "voice20240307***",
        "LiveId": "liveId1****",
        "RiskLevel": "high",
        "SliceDetails": [
            {
                "StartTime": 0,
                "EndTime": 4065,
                "RiskLevel": "high",
                "Result": [
                    {
                        "Label": "political_entity",
                        "Description": "疑似政治实体",
                        "Confidence": 100.0,
                        "RiskLevel": "high",
                        "RiskWords": "词A,词B",
                        "RiskPositions": [
                            {
                                "EndPos": 14,
                                "RiskWord": "词A",
                                "StartPos": 16
                            }
                        ]
                    }
                ],
                "Text": "内容安全产品测试用例",
                "Url": "https://aliyundoc.com"
            }
        ]
    },
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

取消审核任务

仅直播流的审核任务支持取消，文件类型的任务不支持取消。

• 取消审核任务：VoiceModerationCancel。

• 计费信息：该接口不计费。

请求参数

返回参数

示例

• 请求示例

{
    "Service": "stream_detection_byllm",
    "ServiceParameters": {
        "taskId": "AAAAA-BBBBB"
    }
}

• 正常返回参数

{
    "Code": 200,
    "Message": "OK",
    "RequestId": "AAAAAA-BBBB-CCCCC-DDDD-EEEEEEEE****"
}

回调消息格式

Code说明

以下为接口返回code的含义说明，系统仅对code返回为200的请求计量计费，其他code不会计费。