内容审核增强版
内容审核增强版升级核心引擎,提供面向昵称头像、聊天互动、图文分享、游戏连麦、直播课程等多种业务场景的审核服务。增强版支持图片、视频、语音、文本等不同内容形态,能够同时识别多种违规风险,并提供业务自定义规则。
功能集 |
功能 |
功能描述 |
参考文档 |
图片审核增强版 |
通用基线检测 |
支持对图片中色情、性感、涉政、暴恐、违禁、恶意内容(图片隐藏视频、播放器等)等偏红线类内容进行检测,包括图片中画面内容和图片中文字内容。 |
图片审核增强版介绍 |
通用基线检测_专业版 |
在通用基线检测的基础上支持更细粒度的标签返回。 |
图片审核增强版介绍 | |
通用基线检测_海外版 |
针对海外场景,支持对图片中色情、性感、涉政、暴恐、违禁、旗帜、不良、谩骂、特定场景,包括图片中画面内容和图片中文字内容(支持中文、英文)。 |
图片审核增强版介绍 | |
内容治理检测 |
支持对图片中广告引流、广告法、不良引导、谩骂、特殊标识、特定物品等偏治理类内容进行检测,包括图片中画面内容和图片中文字内容。 |
图片审核增强版介绍 | |
AIGC图片检测 |
针对AIGC生成的图片进行专门优化,支持对色情、低俗、性感、涉政、暴恐、违禁、引人不适、不良等内容进行检测。 |
图片审核增强版介绍 | |
头像图片检测 |
针对各种头像场景专门优化,支持对色情、性感、涉政、暴恐、违禁、宗教、广告引流、特殊标识、行为、特定物体、不良、谩骂、图像质量等内容进行检测,包括图片中画面内容和图片中文字内容。 |
图片审核增强版介绍 | |
营销素材检测 |
针对营销素材场景专门优化,支持对广告法、违禁、色情、性感、涉政、暴恐、宗教、行为、不良内容、广告引流、特定物体等内容进行检测,包括图片中画面内容和图片中文字内容。 |
图片审核增强版介绍 | |
视频/直播截图检测 |
针对视频截图和直播截图场景专门优化,支持对色情、性感、涉政、暴恐、违禁、宗教、不良内容、广告引流、行为、特定物体、图像质量等内容进行检测,包括截图中画面内容和截图中文字内容。 |
图片审核增强版介绍 | |
用户风险监测范围设置 |
用于设置用户的风险监测范围,支持对80+标签,100+检测细项的设置 |
调整图片的风险检测范围 | |
图片审核Service复制 |
根据不同业务的需求,对同一个service进行复制并设置不同的风险检测范围,以满足业务差异化的审核需求。 |
为多个业务设置差异化的风险检测范围 | |
标签命中自定义图库设置 |
对于检测的标签,可以设置某些自定义库命中之后,返回该标签 |
专项检测或应急治理特定已知的图片 | |
免审图设置 |
可以设置某个或者多个自定义图库为免审库,命中免审库的图片会直接返回 “nonLabel_lib” 标签 |
对可信的图片免除风险检测 | |
检测结果查询 |
支持对30天内的API识别结果进行查询 |
逐条查询图片检测的详细结果 | |
用量统计 |
对API接口调用数据进行统计,统计数据保存一年,支持查询、导出跨度为两个月的数据 |
统计近期图片检测量级 | |
文本审核增强版 |
用户昵称审核 |
用户昵称、公众号名称、直播间标题等。侧重识别底线违规类、仿冒官方、禁限引流风险,可辅助治理虚假账号。 |
文本审核增强版业务场景 |
私聊互动审核 |
用户间聊天,在平衡用户体验基础上,主要识别底线违规类、辱骂网暴等风险。 |
文本审核增强版业务场景 | |
公聊评论审核 |
评论、弹幕、公聊、转发等,通常风险率高、风险类型多、变形变异强,识别底线违规类、广告导流、禁限内容等风险。 |
文本审核增强版业务场景 | |
PGC通用物料审核 |
教学材料、课件内容、课程题目等,通常风险率低,精确检测底线类风险。 |
文本审核增强版业务场景 | |
AIGC类文字审核 |
AIGC的文字指令、聊天机器人等,兼容中英文本,侧重识别底违规类和负面内容。 |
文本审核增强版业务场景 | |
大语言模型输入文字审核 |
支持对底线类违规、不良诱导信息的检测,可支持对部分诱导性敏感话题的话术建议。 |
面向大语言模型的文本审核PLUS服务 | |
大语言模型生成文字审核 |
支持对底线类违规、不良诱导信息的检测,可支持对AI可能产生的辱骂、偏见、不良价值观信息进行部分检测。 |
面向大语言模型的文本审核PLUS服务 | |
广告法合规审核 |
商品素材、广告文案,识别疑似违反广告法规,包括极限词、行业禁限、红线违规等风险。 |
文本审核增强版业务场景 | |
国际业务聊天互动审核 |
东南亚、中东和欧洲等地区的社交互娱,结合国际化业务特性,采用单独的审核策略和标签体系。 |
文本审核增强版业务场景 | |
用户自定词库添加和管理 |
控制台支持用户创建、管理自定义词库,添加和导入关键词,可用于灵活满足业务需求 |
自定义审核规则 | |
文本审核service复制 |
根据不同业务的需求,对同一个service进行复制并设置不同的风险检测范围,以满足业务差异化的审核需求。 |
自定义检测服务 | |
支持风险识别决策引擎中应用 |
支持通过决策引擎接入文本审核增强版服务,自定义输出标签、细分标签维度。 |
文本审核服务在决策引擎中的应用 | |
视频审核增强版 |
视频文件检测 |
检测视频文件中是否包含画面或语音违规信息。建议对涉及开放公网访问的视频文件均进行该项检测。 |
视频审核增强版介绍 |
视频文件检测_海外版 |
针对出海场景,检测视频文件中是否包含画面或语音违规信息。建议对涉及在海外开放公网访问的视频文件均进行该项检测。 |
视频审核增强版介绍 | |
视频直播流检测 |
检测视频直播流中是否包含画面或语音违规信息。建议对涉及开放公网访问的直播流均进行该项检测。 |
视频直播流审核 | |
视频直播流审核_海外版 |
针对出海场景,检测视频直播流中是否包含画面或语音违规信息。建议对涉及在海外开放公网访问的直播流均进行该项检测。 |
视频直播流审核 | |
风险检测策略调整 |
根据行业常见特性或自身业务所需,对检测的范围和结果返回方式进行调整,以满足业务要求。 |
调整视频审核的风险检测策略 | |
视频审核Service复制 |
根据不同业务的需求,对同一个服务(service)进行复制并设置不同的风险检测策略,以满足业务差异化的审核需求。 |
为多个业务设置差异化的风险检测策略 | |
视频文件排队检测 |
支持对大批量的视频文件进行排队检测,防止超过视频检测路数限制的检测失败。 |
视频文件审核增强版API | |
视频证据转存 |
支持将视频画面截帧后的数据转存到用户自己的OSS中,方便进行长期存储。 |
将视频截帧后的图片进行转存 | |
视频审核结果查询 |
对于检测的视频,支持根据taskId、dataId、service、画面标签、语音标签查询具体视频的详细检测结果。 |
逐条查询视频检测的详细结果 | |
视频审核用量查询 |
通过统计和查看近期视频检测量级,对具体视频内容制定进一步的审核或治理措施。 |
统计近期视频检测量级 | |
语音审核增强版 |
社交娱乐直播语音审核 |
应对直播间的复杂环境,降低方言口音和背景音的干扰,重点识别涉黄、辱骂和负面事件等违规风险。 |
语音审核增强版业务场景 |
音视频媒体语音审核 |
支持各类音视频媒体格式,高性能检测语音内容,除了涉黄、辱骂和暴恐类风险以外,支持意识形态类识别。 |
语音审核增强版业务场景 | |
音视频媒体多语言检测 |
支持中文、英文和中英文混合的音频内容。采用国际化标签体系,增加亵渎、地域等风险标签 |
语音审核增强版多语言服务 | |
支持RTC原生审核功能 |
支持第三方音视频通信 RTC 的原生审核功能,通过输入频道、房间号和id等参数,即可发起语音流的单流审核,接入和使用步骤更简便。 |
语音审核增强版对接第三方音视频通信RTC | |
文档审核增强版 |
通用文档检测服务 |
检测文档中是否包含图片或文字违规信息,包括色情、性感、涉政、暴恐、违禁等底线类内容。 |
文档审核增强版介绍及计费说明 |
风险检测策略调整 |
根据行业常见特性或自身业务所需,对检测的范围和结果返回方式进行调整,以满足业务要求。 |
调整风险检测策略 | |
文档审核Service复制 |
根据不同业务的需求,对同一个服务(service)进行复制并设置不同的风险检测策略,以满足业务差异化的审核需求。 |
为多个业务设置差异化策略 | |
文档审核结果查询 |
对于检测的文档,支持根据taskId、dataId、图像标签、语音标签查询具体文档的详细检测结果。 |
查询详细检测结果 | |
文档审核用量查询 |
通过统计和查询查看近期文档检测量级,对具体文档内容制定进一步的审核或治理措施。 |
统计检测用量 |
内容审核1.0版
内容审核提供图片、视频、语音、文字、网页等多媒体的内容风险智能识别和审核服务,帮助用户发现色情、暴恐、政治敏感等风险内容。
功能集 |
功能 |
功能描述 |
参考文档 |
图片审核1.0版 |
图片色情识别 |
识别图片色情和低俗内容 |
|
图片涉政暴恐识别 |
识别图片内容中的涉政、暴恐血腥风险,包括人物、标识、事件等 |
- |
|
图片不良内容识别 |
识别图片内容中的不良场景,包括抽烟、喝酒、赌博等 |
- |
|
图片图文违规识别 |
识别图片中文字内容的涉黄、涉政、辱骂、广告和二维码等内容 |
- |
|
图片特定LOGO识别 |
识别图片内容中的特定LOGO,包括商标、台标等 |
- |
|
用户自定义图库 |
支持用户自定义黑白图片样本库 |
自定义图库 | |
文本审核1.0版 |
文本色情识别 |
识别文本中的色情和低俗内容 |
文本同步检测 |
文本涉政识别 |
识别文本内容中的涉政风险,包括人物、事件等 |
- |
|
文本暴恐识别 |
识别文本中的暴恐内容 |
- |
|
文本广告识别 |
识别文本内容中的垃圾广告 |
- |
|
文本辱骂识别 |
识别文本中的辱骂内容 |
- |
|
文本违禁内容识别 |
识别文本中的违禁内容,包括违禁品、非法交易等 |
- |
|
文本不良内容识别 |
识别文本中的不良内容,包括拜金炫富、负面诱导、网络暴力等 |
- |
|
用户自定义关键词库 |
支持用户自定义的黑白关键词样本库 |
自定义文本库 | |
视频审核1.0版 |
视频色情识别 |
识别视频中的色情和低俗内容 |
视频异步检测 |
视频涉政暴恐识别 |
识别视频内容中的涉政暴恐风险,包括人物、标识、事件、血腥恐怖等 |
- |
|
视频图文违规识别 |
识别视频画面文字中的涉黄、涉政、广告和二维码等内容 |
- |
|
视频不良内容识别 |
识别视频内容中的不良场景,包括抽烟、喝酒、赌博等 |
- |
|
视频特定LOGO识别 |
识别视频内容中的特定LOGO,包括台标和商标 |
- |
|
视频语音内容识别 |
识别视频内容中的语音部分是否违规 |
- |
|
语音审核1.0版 |
语音色情识别 |
识别语音中的色情和低俗内容 |
|
语音涉政暴恐识别 |
识别语音内容中的涉政暴恐风险,包括人物、事件、血腥暴恐等 |
- |
|
语音广告识别 |
识别语音内容中的垃圾广告 |
- |
|
语音违禁识别 |
识别语音中的违禁内容,包括违禁品、非法交易等 |
- |
|
语音呻吟声识别 |
识别语音内容中的娇喘和呻吟声 |
- |
|
文档审核1.0版 |
文档图像内容识别 |
识别doc、docx、ppt、pptx、PDF等文档中的图像画面是否违规 |
文件异步检测 |
文档文本内容识别 |
识别doc、docx、ppt、pptx、PDF和TXT等文档中的文本内容是否违规 |
- |
|
支持文档近线审核 |
提高文档检测页数量上限,增加近线检测模式 |
- |
OSS违规检测普惠版
OSS违规检测普惠版面向有定期检测OSS存量数据需求的客户,能够提供价格更优惠的时效规格,集成内容审核增强版服务检测能力,支持更多的风险类型和更丰富的风险标签,支持OSS存储空间(Bucket)和日志服务SLS等云产品原生功能,并大幅度提升使用体验。
功能集 |
功能 |
功能描述 |
参考文档 |
批量检测任务 |
批量图片检测 |
对授权OSS中指定Bucket和时间范围的图片文件进行检测,识别图片是否违规或者是否含有恶意图片 |
|
批量音视频检测 |
对授权OSS中指定Bucket和时间范围的音视频文件进行检测,识别音视频是否违规 |
批量检测OSS存储图片和音视频数据 | |
定时检测任务 |
定时检测图片 |
创建周期定时任务,对授权OSS中指定Bucket的新增图片文件进行检测,识别图片是否违规 |
定时检测OSS增量图片和音视频数据 |
定时检测音视频 |
创建周期定时任务,对授权OSS中指定Bucket的新增音视频文件进行检测,识别音视频是否违规 |
定时检测OSS增量图片和音视频数据 | |
多种定时任务周期 |
可创建定时周期分别为天、周和月的任务。 |
定时检测OSS增量图片和音视频数据 | |
云原生功能 |
检测结果推送SLS |
检测结果推送到日志服务中,日志服务提供查询分析和加工等功能,了解内容风险趋势并实时监测。 |
OSS违规检测结果日志存储 |
OSS对象标签记录 |
对任务检测过的文件,通过OSS对象标签进行标记。 |
对象标签查询和使用 | |
函数计算实现增量扫描 |
实时检测上传到OSS Bucket的图片是否存在违规内容,且根据检测结果决定如何处理图片 |
使用函数计算实现OSS图片增量检测 |
OSS违规检测1.0版
OSS违规检测能够检测阿里云对象存储OSS服务中的图片、视频是否包含色情、涉政等违规内容,并可以自动冻结检测出的违规内容(禁止通过公网访问这些违规内容)。
功能集 |
功能 |
功能描述 |
参考文档 |
增量扫描 |
增量图片文件扫描 |
对授权OSS中新上传的图片文件进行扫描,识别图片是否违规 |
配置增量扫描任务 |
增量视频文件扫描 |
对授权OSS中新上传的视频文件进行扫描,识别视频是否违规 |
- |
|
增量音频文件扫描 |
对授权OSS中新上传的音频文件进行扫描,识别音频是否违规 |
- |
|
自定义审核标准 |
支持用户选择行业标准或者自定义审核标准,包括社交、多媒体、新零售、教育、游戏、传媒和阅读。 |
- |
|
存量扫描 |
存量图片文件扫描 |
对授权OSS中指定时间范围的历史图片文件进行扫描,识别图片是否违规 |
配置存量扫描任务 |
存量视频文件扫描 |
对授权OSS中指定时间范围的历史视频文件进行扫描,识别视频是否违规 |
- |
|
存量音频文件扫描 |
对授权OSS中指定时间范围的历史音频文件进行扫描,识别音频是否违规 |
- |
人工审核
内容审核人员提供专业化的人工审核与标注违规服务。
功能集 |
功能 |
功能描述 |
参考文档 |
纯人审服务 |
图片人工审核 |
人工审核涉政、暴恐、色情、广告和不良5类违规图片 |
图片人工审核 |
文本人工审核 |
人工审核涉政、暴恐、色情、广告和辱骂5类违规文本 |
文本人工审核 | |
视频人工审核 |
人工审核涉政、暴恐、色情、广告和不良5类违规视频 |
视频人工审核 | |
音频人工审核 |
人工审核涉政、暴恐、色情、广告和辱骂5类违规音频 |
语音人工审核 | |
人机审核服务 |
图片人机审核 |
机器结合人工审核涉政、暴恐、色情、广告和不良5类违规图片 |
- |
文本人机审核 |
机器结合人工审核涉政、暴恐、色情、广告和辱骂5类违规文本 |
- |
|
视频人机审核 |
机器结合人工审核涉政、暴恐、色情、广告和不良5类违规视频 |
- |
|
音频人机审核 |
机器结合人工审核涉政、暴恐、色情、广告和辱骂5类违规音频 |
- |