AIGC技术和应用迅速发展,在社会和商业应用各方面形成热潮,一方面带来了海量趣味的内容,另一方面随着AI技术的发展也让部分AIGC内容真假难辨。根据《人工智能生成合成内容标识办法》规定,网络信息内容传播服务的服务提供者应当对AIGC的内容进行检测和标识,提醒公众该内容可能为生成合成内容。本文介绍阿里云内容安全AIGC内容标识检测的相关服务和最佳实践。
前提条件
AIGC内容标识检测服务一览表
阿里云内容安全当前提供AIGC图片判定、AIGC文本判定、AIGC音频判定和AIGC视频判定服务,具体的服务如下表:
模态 | 服务(service) | 检测内容 | 适用场景 |
图片检测 | 服务:AIGC图片生成判定 Service:aigcDetector | 请求时对输入的图片进行检测,判断图片是否疑似AIGC生成。 | 针对各种场景,判断图片是否由AIGC生成。建议需要对图片生成合成内容进行检测和标识时使用。更多信息,请参考图片审核AIGC场景检测服务。 |
服务:AIGC图片生成判定_专业版 Service:aigcDetector_pro | 请求时对输入的图片进行检测,判断图片是否疑似AIGC生成、是否疑似合成、是否疑似PS。 | 针对各种场景,对于文本是否伪造进行判断。建议需要对图片鉴伪时使用。更多信息,请参考图片审核AIGC场景检测服务。 | |
文本检测 (内测中) | 服务:AIGC音频生成判定 Service:text_aigc_detector | 请求时对输入的文本进行检测,判断文本是否疑似AIGC生成。 | 针对各种场景,判断图片是否由AIGC生成。建议需要对文本生成合成内容进行检测和标识时使用。 |
语音检测 (邀测中) | 服务:AIGC文本生成判定 Service:voice_aigc_detector | 请求时对输入的语音进行检测,判断语音是否疑似AIGC生成。 | 针对各种场景,判断语音是否由AIGC生成。建议需要对音频生成合成内容进行检测和标识时使用。 |
视频检测 | 服务:AIGC视频生成判定 Service:videoAigcDetector | 请求时对输入的视频进行检测,判断视频是否疑似AIGC生成。 | 针对各种场景,判断视频是否由AIGC生成。建议需要对视频生成合成内容进行检测和标识时使用。更多信息,请参考视频审核AIGC场景检测服务。 |
所需集成和配置的API:
模态 | API接口 | API service配置 |
图片是否AIGC生成检测 | aigcDetector aigcDetector_pro | |
文本是否AIGC生成检测 | text_aigc_detector | |
语音是否AIGC生成检测 | voice_aigc_detector | |
视频是否AIGC生成检测 | videoAigcDetector |
方案流程
图片发布场景
在平台的图片上传或者图片发布等场景,通过AIGC图片生成判定服务检测图片是否疑似为AIGC生成,对于疑似AIGC生成的图片进行标识提醒。
内容安全方案流程图概览:
所需集成和配置的API:
步骤 | API接口 | API service配置 |
步骤2 | aigcDetector |
视频发布场景
在平台的视频上传或者视频发布等场景,通过AIGC视频生成判定服务检测视频是否疑似为AIGC生成,对于疑似AIGC生成的视频进行标识提醒。
内容安全方案流程图概览:
所需集成和配置的API:
步骤 | API接口 | API service配置 |
步骤2 | videoAigcDetector | |
步骤5 | 控制台服务配置 |