文档

功能特性

内容审核增强版

内容审核增强版升级核心引擎,提供面向昵称头像、聊天互动、图文分享、游戏连麦、直播课程等多种业务场景的审核服务。增强版支持图片、视频、语音、文本等不同内容形态,能够同时识别多种违规风险,并提供业务自定义规则。

功能集

功能

功能描述

参考文档

图片审核增强版

通用基线检测

支持对图片中色情、性感、涉政、暴恐、违禁、恶意内容(图片隐藏视频、播放器等)等偏红线类内容进行检测,包括图片中画面内容和图片中文字内容。

图片审核增强版介绍

通用基线检测_专业版

在通用基线检测的基础上支持更细粒度的标签返回。

图片审核增强版介绍

通用基线检测_海外版

针对海外场景,支持对图片中色情、性感、涉政、暴恐、违禁、旗帜、不良、谩骂、特定场景,包括图片中画面内容和图片中文字内容(支持中文、英文)。

图片审核增强版介绍

内容治理检测

支持对图片中广告引流、广告法、不良引导、谩骂、特殊标识、特定物品等偏治理类内容进行检测,包括图片中画面内容和图片中文字内容。

图片审核增强版介绍

AIGC图片检测

针对AIGC生成的图片进行专门优化,支持对色情、低俗、性感、涉政、暴恐、违禁、引人不适、不良等内容进行检测。

图片审核增强版介绍

头像图片检测

针对各种头像场景专门优化,支持对色情、性感、涉政、暴恐、违禁、宗教、广告引流、特殊标识、行为、特定物体、不良、谩骂、图像质量等内容进行检测,包括图片中画面内容和图片中文字内容。

图片审核增强版介绍

营销素材检测

针对营销素材场景专门优化,支持对广告法、违禁、色情、性感、涉政、暴恐、宗教、行为、不良内容、广告引流、特定物体等内容进行检测,包括图片中画面内容和图片中文字内容。

图片审核增强版介绍

视频/直播截图检测

针对视频截图和直播截图场景专门优化,支持对色情、性感、涉政、暴恐、违禁、宗教、不良内容、广告引流、行为、特定物体、图像质量等内容进行检测,包括截图中画面内容和截图中文字内容。

图片审核增强版介绍

用户风险监测范围设置

用于设置用户的风险监测范围,支持对80+标签,100+检测细项的设置

调整图片的风险检测范围

图片审核Service复制

根据不同业务的需求,对同一个service进行复制并设置不同的风险检测范围,以满足业务差异化的审核需求。

为多个业务设置差异化的风险检测范围

标签命中自定义图库设置

对于检测的标签,可以设置某些自定义库命中之后,返回该标签

专项检测或应急治理特定已知的图片

免审图设置

可以设置某个或者多个自定义图库为免审库,命中免审库的图片会直接返回 “nonLabel_lib” 标签

对可信的图片免除风险检测

检测结果查询

支持对30天内的API识别结果进行查询

逐条查询图片检测的详细结果

用量统计

对API接口调用数据进行统计,统计数据保存一年,支持查询、导出跨度为两个月的数据

统计近期图片检测量级

文本审核增强版

用户昵称审核

用户昵称、公众号名称、直播间标题等。侧重识别底线违规类、仿冒官方、禁限引流风险,可辅助治理虚假账号。

文本审核增强版业务场景

私聊互动审核

用户间聊天,在平衡用户体验基础上,主要识别底线违规类、辱骂网暴等风险。

文本审核增强版业务场景

公聊评论审核

评论、弹幕、公聊、转发等,通常风险率高、风险类型多、变形变异强,识别底线违规类、广告导流、禁限内容等风险。

文本审核增强版业务场景

PGC通用物料审核

教学材料、课件内容、课程题目等,通常风险率低,精确检测底线类风险。

文本审核增强版业务场景

AIGC类文字审核

AIGC的文字指令、聊天机器人等,兼容中英文本,侧重识别底违规类和负面内容。

文本审核增强版业务场景

大语言模型输入文字审核

支持对底线类违规、不良诱导信息的检测,可支持对部分诱导性敏感话题的话术建议。

面向大语言模型的文本审核PLUS服务

大语言模型生成文字审核

支持对底线类违规、不良诱导信息的检测,可支持对AI可能产生的辱骂、偏见、不良价值观信息进行部分检测。

面向大语言模型的文本审核PLUS服务

广告法合规审核

商品素材、广告文案,识别疑似违反广告法规,包括极限词、行业禁限、红线违规等风险。

文本审核增强版业务场景

国际业务聊天互动审核

东南亚、中东和欧洲等地区的社交互娱,结合国际化业务特性,采用单独的审核策略和标签体系。

文本审核增强版业务场景

用户自定词库添加和管理

控制台支持用户创建、管理自定义词库,添加和导入关键词,可用于灵活满足业务需求

自定义审核规则

文本审核service复制

根据不同业务的需求,对同一个service进行复制并设置不同的风险检测范围,以满足业务差异化的审核需求。

自定义检测服务

支持风险识别决策引擎中应用

支持通过决策引擎接入文本审核增强版服务,自定义输出标签、细分标签维度。

文本审核服务在决策引擎中的应用

视频审核增强版

视频文件检测

检测视频文件中是否包含画面或语音违规信息。建议对涉及开放公网访问的视频文件均进行该项检测。

视频审核增强版介绍

视频文件检测_海外版

针对出海场景,检测视频文件中是否包含画面或语音违规信息。建议对涉及在海外开放公网访问的视频文件均进行该项检测。

视频审核增强版介绍

视频直播流检测

检测视频直播流中是否包含画面或语音违规信息。建议对涉及开放公网访问的直播流均进行该项检测。

视频直播流审核

视频直播流审核_海外版

针对出海场景,检测视频直播流中是否包含画面或语音违规信息。建议对涉及在海外开放公网访问的直播流均进行该项检测。

视频直播流审核

风险检测策略调整

根据行业常见特性或自身业务所需,对检测的范围和结果返回方式进行调整,以满足业务要求。

调整视频审核的风险检测策略

视频审核Service复制

根据不同业务的需求,对同一个服务(service)进行复制并设置不同的风险检测策略,以满足业务差异化的审核需求。

为多个业务设置差异化的风险检测策略

视频文件排队检测

支持对大批量的视频文件进行排队检测,防止超过视频检测路数限制的检测失败。

视频文件审核增强版API

视频证据转存

支持将视频画面截帧后的数据转存到用户自己的OSS中,方便进行长期存储。

将视频截帧后的图片进行转存

视频审核结果查询

对于检测的视频,支持根据taskId、dataId、service、画面标签、语音标签查询具体视频的详细检测结果。

逐条查询视频检测的详细结果

视频审核用量查询

通过统计和查看近期视频检测量级,对具体视频内容制定进一步的审核或治理措施。

统计近期视频检测量级

语音审核增强版

社交娱乐直播语音审核

应对直播间的复杂环境,降低方言口音和背景音的干扰,重点识别涉黄、辱骂和负面事件等违规风险。

语音审核增强版业务场景

音视频媒体语音审核

支持各类音视频媒体格式,高性能检测语音内容,除了涉黄、辱骂和暴恐类风险以外,支持意识形态类识别。

语音审核增强版业务场景

音视频媒体多语言检测

支持中文、英文和中英文混合的音频内容。采用国际化标签体系,增加亵渎、地域等风险标签

语音审核增强版多语言服务

支持RTC原生审核功能

支持第三方音视频通信 RTC 的原生审核功能,通过输入频道、房间号和id等参数,即可发起语音流的单流审核,接入和使用步骤更简便。

语音审核增强版对接第三方音视频通信RTC

文档审核增强版

通用文档检测服务

检测文档中是否包含图片或文字违规信息,包括色情、性感、涉政、暴恐、违禁等底线类内容。

文档审核增强版介绍及计费说明

风险检测策略调整

根据行业常见特性或自身业务所需,对检测的范围和结果返回方式进行调整,以满足业务要求。

调整风险检测策略

文档审核Service复制

根据不同业务的需求,对同一个服务(service)进行复制并设置不同的风险检测策略,以满足业务差异化的审核需求。

为多个业务设置差异化策略

文档审核结果查询

对于检测的文档,支持根据taskId、dataId、图像标签、语音标签查询具体文档的详细检测结果。

查询详细检测结果

文档审核用量查询

通过统计和查询查看近期文档检测量级,对具体文档内容制定进一步的审核或治理措施。

统计检测用量

内容审核1.0版

内容审核提供图片、视频、语音、文字、网页等多媒体的内容风险智能识别和审核服务,帮助用户发现色情、暴恐、政治敏感等风险内容。

功能集

功能

功能描述

参考文档

图片审核1.0版

图片色情识别

识别图片色情和低俗内容

图片涉政暴恐识别

识别图片内容中的涉政、暴恐血腥风险,包括人物、标识、事件等

-

图片不良内容识别

识别图片内容中的不良场景,包括抽烟、喝酒、赌博等

-

图片图文违规识别

识别图片中文字内容的涉黄、涉政、辱骂、广告和二维码等内容

-

图片特定LOGO识别

识别图片内容中的特定LOGO,包括商标、台标等

-

用户自定义图库

支持用户自定义黑白图片样本库

自定义图库

文本审核1.0版

文本色情识别

识别文本中的色情和低俗内容

文本同步检测

文本涉政识别

识别文本内容中的涉政风险,包括人物、事件等

-

文本暴恐识别

识别文本中的暴恐内容

-

文本广告识别

识别文本内容中的垃圾广告

-

文本辱骂识别

识别文本中的辱骂内容

-

文本违禁内容识别

识别文本中的违禁内容,包括违禁品、非法交易等

-

文本不良内容识别

识别文本中的不良内容,包括拜金炫富、负面诱导、网络暴力等

-

用户自定义关键词库

支持用户自定义的黑白关键词样本库

自定义文本库

视频审核1.0版

视频色情识别

识别视频中的色情和低俗内容

视频异步检测

视频涉政暴恐识别

识别视频内容中的涉政暴恐风险,包括人物、标识、事件、血腥恐怖等

-

视频图文违规识别

识别视频画面文字中的涉黄、涉政、广告和二维码等内容

-

视频不良内容识别

识别视频内容中的不良场景,包括抽烟、喝酒、赌博等

-

视频特定LOGO识别

识别视频内容中的特定LOGO,包括台标和商标

-

视频语音内容识别

识别视频内容中的语音部分是否违规

-

语音审核1.0版

语音色情识别

识别语音中的色情和低俗内容

语音涉政暴恐识别

识别语音内容中的涉政暴恐风险,包括人物、事件、血腥暴恐等

-

语音广告识别

识别语音内容中的垃圾广告

-

语音违禁识别

识别语音中的违禁内容,包括违禁品、非法交易等

-

语音呻吟声识别

识别语音内容中的娇喘和呻吟声

-

文档审核1.0版

文档图像内容识别

识别doc、docx、ppt、pptx、PDF等文档中的图像画面是否违规

文件异步检测

文档文本内容识别

识别doc、docx、ppt、pptx、PDF和TXT等文档中的文本内容是否违规

-

支持文档近线审核

提高文档检测页数量上限,增加近线检测模式

-

OSS违规检测普惠版

OSS违规检测普惠版面向有定期检测OSS存量数据需求的客户,能够提供价格更优惠的时效规格,集成内容审核增强版服务检测能力,支持更多的风险类型和更丰富的风险标签,支持OSS存储空间(Bucket)和日志服务SLS等云产品原生功能,并大幅度提升使用体验。

功能集

功能

功能描述

参考文档

批量检测任务

批量图片检测

对授权OSS中指定Bucket和时间范围的图片文件进行检测,识别图片是否违规或者是否含有恶意图片

批量音视频检测

对授权OSS中指定Bucket和时间范围的音视频文件进行检测,识别音视频是否违规

批量检测OSS存储图片和音视频数据

定时检测任务

定时检测图片

创建周期定时任务,对授权OSS中指定Bucket的新增图片文件进行检测,识别图片是否违规

定时检测OSS增量图片和音视频数据

定时检测音视频

创建周期定时任务,对授权OSS中指定Bucket的新增音视频文件进行检测,识别音视频是否违规

定时检测OSS增量图片和音视频数据

多种定时任务周期

可创建定时周期分别为天、周和月的任务。

定时检测OSS增量图片和音视频数据

云原生功能

检测结果推送SLS

检测结果推送到日志服务中,日志服务提供查询分析和加工等功能,了解内容风险趋势并实时监测。

OSS违规检测结果日志存储

OSS对象标签记录

对任务检测过的文件,通过OSS对象标签进行标记。

对象标签查询和使用

函数计算实现增量扫描

实时检测上传到OSS Bucket的图片是否存在违规内容,且根据检测结果决定如何处理图片

使用函数计算实现OSS图片增量检测

OSS违规检测1.0版

OSS违规检测能够检测阿里云对象存储OSS服务中的图片、视频是否包含色情、涉政等违规内容,并可以自动冻结检测出的违规内容(禁止通过公网访问这些违规内容)。

功能集

功能

功能描述

参考文档

增量扫描

增量图片文件扫描

对授权OSS中新上传的图片文件进行扫描,识别图片是否违规

配置增量扫描任务

增量视频文件扫描

对授权OSS中新上传的视频文件进行扫描,识别视频是否违规

-

增量音频文件扫描

对授权OSS中新上传的音频文件进行扫描,识别音频是否违规

-

自定义审核标准

支持用户选择行业标准或者自定义审核标准,包括社交、多媒体、新零售、教育、游戏、传媒和阅读。

-

存量扫描

存量图片文件扫描

对授权OSS中指定时间范围的历史图片文件进行扫描,识别图片是否违规

配置存量扫描任务

存量视频文件扫描

对授权OSS中指定时间范围的历史视频文件进行扫描,识别视频是否违规

-

存量音频文件扫描

对授权OSS中指定时间范围的历史音频文件进行扫描,识别音频是否违规

-

人工审核

内容审核人员提供专业化的人工审核与标注违规服务。

功能集

功能

功能描述

参考文档

纯人审服务

图片人工审核

人工审核涉政、暴恐、色情、广告和不良5类违规图片

图片人工审核

文本人工审核

人工审核涉政、暴恐、色情、广告和辱骂5类违规文本

文本人工审核

视频人工审核

人工审核涉政、暴恐、色情、广告和不良5类违规视频

视频人工审核

音频人工审核

人工审核涉政、暴恐、色情、广告和辱骂5类违规音频

语音人工审核

人机审核服务

图片人机审核

机器结合人工审核涉政、暴恐、色情、广告和不良5类违规图片

-

文本人机审核

机器结合人工审核涉政、暴恐、色情、广告和辱骂5类违规文本

-

视频人机审核

机器结合人工审核涉政、暴恐、色情、广告和不良5类违规视频

-

音频人机审核

机器结合人工审核涉政、暴恐、色情、广告和辱骂5类违规音频

-

  • 本页导读 (0)
文档反馈