人工智能生成合成内容检测最佳实践

AIGC技术和应用迅速发展,在社会和商业应用各方面形成热潮,一方面带来了海量趣味的内容,另一方面随着AI技术的发展也让部分AIGC内容真假难辨。根据《人工智能生成合成内容标识办法》规定,网络信息内容传播服务的服务提供者应当对AIGC的内容进行检测和标识,提醒公众该内容可能为生成合成内容。本文介绍阿里云内容安全AIGC内容标识检测的相关服务和最佳实践。

前提条件

  1. 开通内容安全增强版

  2. 集成内容安全增强版-图片检测服务内容安全增强版-文本检测服务内容安全增强版-音频检测服务内容安全增强版-视频检测服务

AIGC内容标识检测服务一览表

  1. 阿里云内容安全当前提供AIGC图片判定、AIGC文本判定、AIGC音频判定和AIGC视频判定服务,具体的服务如下表:

模态

服务(service)

检测内容

适用场景

图片检测

服务:AIGC图片生成判定

Service:aigcDetector

请求时对输入的图片进行检测,判断图片是否疑似AIGC生成。

针对各种场景,判断图片是否由AIGC生成。建议需要对图片生成合成内容进行检测和标识时使用。更多信息,请参考图片审核AIGC场景检测服务

服务:AIGC图片生成判定_专业版

Service:aigcDetector_pro

请求时对输入的图片进行检测,判断图片是否疑似AIGC生成、是否疑似合成、是否疑似PS。

针对各种场景,对于文本是否伪造进行判断。建议需要对图片鉴伪时使用。更多信息,请参考图片审核AIGC场景检测服务

文本检测

(内测中)

服务:AIGC音频生成判定

Service:text_aigc_detector

请求时对输入的文本进行检测,判断文本是否疑似AIGC生成。

针对各种场景,判断图片是否由AIGC生成。建议需要对文本生成合成内容进行检测和标识时使用。

语音检测

(邀测中)

服务:AIGC文本生成判定

Service:voice_aigc_detector

请求时对输入的语音进行检测,判断语音是否疑似AIGC生成。

针对各种场景,判断语音是否由AIGC生成。建议需要对音频生成合成内容进行检测和标识时使用。

视频检测

服务:AIGC视频生成判定

Service:videoAigcDetector

请求时对输入的视频进行检测,判断视频是否疑似AIGC生成。

针对各种场景,判断视频是否由AIGC生成。建议需要对视频生成合成内容进行检测和标识时使用。更多信息,请参考视频审核AIGC场景检测服务

  1. 所需集成和配置的API:

模态

API接口

API service配置

图片是否AIGC生成检测

ImageModeration

aigcDetector

aigcDetector_pro

文本是否AIGC生成检测

TextModerationPlus

text_aigc_detector

语音是否AIGC生成检测

VoiceModeration

voice_aigc_detector

视频是否AIGC生成检测

VideoModeration

videoAigcDetector

方案流程

  • 图片发布场景

    在平台的图片上传或者图片发布等场景,通过AIGC图片生成判定服务检测图片是否疑似为AIGC生成,对于疑似AIGC生成的图片进行标识提醒。

  1. 内容安全方案流程图概览:

image

  1. 所需集成和配置的API:

步骤

API接口

API service配置

步骤2

ImageModeration

aigcDetector

  • 视频发布场景

    在平台的视频上传或者视频发布等场景,通过AIGC视频生成判定服务检测视频是否疑似为AIGC生成,对于疑似AIGC生成的视频进行标识提醒。

  1. 内容安全方案流程图概览:

image

  1. 所需集成和配置的API:

步骤

API接口

API service配置

步骤2

VideoModeration

videoAigcDetector

步骤5

控制台服务配置

videoAigcDetector