AI技术和应用迅速发展，在社会和商业应用各方面形成热潮，一方面带来了海量趣味的内容，另一方面随着AI技术的发展也让部分AIGC内容真假难辨。根据《人工智能生成合成内容标识办法》规定，网络信息内容传播服务的服务提供者应当对AI生成合成的内容进行检测和标识，提醒公众该内容可能为生成合成内容。本文基于阿里云入选“网络安全国家标准应用实践案例库”的人工智能生成合成内容检测和标识应用作为参考，介绍阿里云内容安全AI生成合成内容鉴别和标识的相关服务和最佳实践。
实践方案介绍
在TC260安全标准周分论坛上，阿里云申报的“GB 45438—2025《网络安全技术 人工智能生成合成内容标识方法》标准在阿里云“检测、水印、检验”全链路技术方案下的应用”荣膺TC260的AI安全标准应用实践案例。
在该实践案例中，阿里云构建了标识合规三部曲：AIGC内容鉴别、数字水印、标识合规检验。基于通义及阿里其他产品的实践，为其他平台应用提供了有依据的参考。
前提条件
AI生成合成内容鉴别服务一览表
阿里云内容安全当前提供图片、文本、音频和视频是否AI生成合成内容鉴别的能力，具体的服务如下表：
模态 | 服务（service） | 检测内容 | 适用场景 |
图片检测 | 服务：AI生成图片鉴别 Service：aigcDetector | 请求时对输入的图片进行检测，判断图片是否疑似AI生成合成内容。 | 针对各种场景，判断图片是否由AIGC生成。建议需要对图片生成合成内容进行检测和标识时使用。更多信息，请参考图片审核AIGC场景检测服务。 |
服务：AI生成图片鉴别_专业版 Service：aigcDetector_pro | 请求时对输入的图片进行检测，判断图片是否疑似AI生成、是否疑似合成、是否疑似PS。 | 针对各种场景，对于图片是否伪造进行判断。建议需要对图片鉴伪时使用。更多信息，请参考图片审核AIGC场景检测服务。 | |
文本检测 | 服务：AI生成文本鉴别 Service：text_aigc_detector | 请求时对输入的文本进行检测，判断文本是否疑似AI生成合成内容。 | 针对各种场景，判断文本是否由AIGC生成。建议需要对文本生成合成内容进行检测和标识时使用。更多信息，请参考文本审核AIGC场景检测服务。 |
语音检测 | 服务：AI生成语音鉴别 Service：voice_aigc_detector | 请求时对输入的语音进行检测，判断语音是否疑似AI生成合成内容。 | 针对各种场景，判断语音是否由AIGC生成。建议需要对音频生成合成内容进行检测和标识时使用。更多信息，请参考语音审核AIGC场景检测服务。 |
视频检测 | 服务：AI生成视频鉴别 Service：videoAigcDetector | 请求时对输入的视频进行检测，判断视频是否疑似AI生成合成内容。 | 针对各种场景，判断视频是否由AIGC生成。建议需要对视频生成合成内容进行检测和标识时使用。更多信息，请参考视频审核AIGC场景检测服务。 |
所需集成和配置的API：
模态 | API接口 | API service配置 |
图片是否AI生成合成检测 | aigcDetector aigcDetector_pro | |
文本是否AI生成合成检测 | text_aigc_detector | |
语音是否AI生成合成检测 | voice_aigc_detector | |
视频是否AI生成合成检测 | videoAigcDetector |
方案流程
图片发布场景
在平台的图片上传或者图片发布等场景，通过AIGC图片鉴别服务检测图片是否疑似为AI生成合成内容，对于疑似AI生成合成的图片进行标识和提醒。
内容安全方案流程图概览：
所需集成和配置的API：
步骤 | API接口 | API service配置 |
步骤2 | aigcDetector |
视频发布场景
在平台的视频上传或者视频发布等场景，通过AIGC视频鉴别服务检测视频是否疑似为AI生成合成内容，对于疑似AI生成合成的视频进行标识和提醒。
内容安全方案流程图概览：
所需集成和配置的API：
步骤 | API接口 | API service配置 |
步骤2 | videoAigcDetector | |
步骤5 | 控制台服务配置 |
语音发布场景
在平台的语音上传或者语音发布等场景，通过AIGC语音鉴别服务检测语音是否疑似为AI生成合成内容，对于疑似AI生成合成的语音进行标识和提醒。
内容安全方案流程图概览：
所需集成和配置的API：
步骤 | API接口 | API service配置 |
步骤2 | voice_aigc_detector |
文本发布场景
在平台的文本发布场景，通过AIGC文本鉴别服务检测文本是否疑似为AI生成合成内容，对于疑似AI生成合成的文本进行标识和提醒。
内容安全方案流程图概览：
所需集成和配置的API：
步骤 | API接口 | API service配置 |
步骤2 | text_aigc_detector |