OSS违规检测能够检测阿里云对象存储OSS服务中的图片、视频、语音是否包含色情、涉政等违规内容,并可以自动冻结检测出的违规内容(禁止通过公网访问这些违规内容),帮助您规避可能遇到的内容违规风险。

功能介绍

OSS违规检测支持检测指定OSS Bucket中的增量内容和存量内容,即增量扫描和存量扫描。该功能无需您开发,只需要少许页面配置即可接入使用。
  • 增量扫描

    开启增量扫描后,当您在OSS Bucket上传了新的图片、视频、语音时,内容安全将自动检测新增的图片、视频是否存在违规。增量扫描一次配置即可长期生效。

  • 存量扫描

    存量扫描目前不支持自动检测,需要您手动创建扫描任务。创建后,内容安全将在指定时间,一次性扫描您指定的OSS Bucket已有的图片、视频、语音文件是否存在违规。

使用限制

OSS违规检测只向开通了阿里云对象存储OSS(Object Storage Service)的用户提供服务。关于OSS服务的更多信息,请参见什么是对象存储OSS

使用OSS违规检测前,您必须在内容安全控制台完成使用授权,授予内容安全服务对您的OSS Bucket的访问权限。

说明 您在首次登录内容安全控制台并访问OSS违规检测页面时,可以一键完成该操作。具体操作,请参见授权内容安全访问OSS存储空间
表 1. OSS违规检测说明
对象 说明
OSS Bucket的地域 OSS违规检测目前支持扫描以下地域的OSS Bucket:
  • oss-cn-hangzhou.aliyuncs.com:表示华东1(杭州)地域的OSS Bucket。
  • oss-cn-shanghai.aliyuncs.com:表示华东2(上海)地域的OSS Bucket。
  • oss-cn-qingdao.aliyuncs.com:表示华北1(青岛)地域的OSS Bucket。
  • oss-cn-beijing.aliyuncs.com:表示华北2(北京)地域的OSS Bucket。
  • oss-cn-shenzhen.aliyuncs.com:表示华南1(深圳)地域的OSS Bucket。
说明 关于地域的具体介绍,请参见访问域名和数据中心。如果您的OSS Bucket位于其他地域,则暂时无法使用OSS违规检测。
检测场景 OSS违规检测支持的检测场景如下:
  • 图片违规检测场景:色情、涉政暴恐、不良画面、图文违规。
  • 视频违规检测场景:色情、涉政暴恐、不良画面、图文违规。
  • 语音违规检测场景:语音反垃圾。
检测对象 OSS违规检测支持检测的图片、视频文件格式如下:
  • 图片文件格式:JPGPNGJPEGGIFBMPWEBP
  • 视频文件格式:AVIMP43GPMKVMPGMPEGTSRMVBWMVFLVMOV
  • 语音支持格式:MP3WAVAACWMAOGGM4AAMRAUDIOM3U8

使用流程

步骤 操作 详细说明
步骤一 授权内容安全访问OSS存储空间 OSS违规检测只向开通了阿里云对象存储OSS服务的用户提供服务,所以请确保您已开通OSS存储空间并授权内容安全读取OSS Bucket。

关于授权的具体操作,请参见授权内容安全访问OSS存储空间

说明 首次使用OSS违规检测服务时,需要先授权OSS访问权限。服务只需要授权一次即可,完成授权后您无需再次授权。
步骤二 配置回调通知 内容安全支持以异步消息通知的方式向您发送机器内容识别和您自助审核的结果。若您的业务需要使用或集成相关数据,您需要配置回调通知。

关于回调通知的具体操作,请参见配置消息通知

步骤三 配置风险库 为了使检测结果更贴合您的实际业务,内容安全也支持自定义图库。您可以使用自定义图库指定需要拦截、放行、人工审核的图片。

关于风险库的具体操作,请参见配置风险库

步骤四 增量扫描 通过增量扫描设置,您可以让内容安全对指定OSS Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,将自动触发扫描),并实时查看近7天的增量扫描结果和数据统计。

具体操作如下:

  1. 设置增量扫描任务
  2. 查看统计数据
  3. 查看扫描结果
存量扫描 对于手动创建一个存量扫描任务,指定OSS Bucket中的已有图片或视频文件进行一次性违规检测,并在检测完成后查看扫描结果和数据统计信息。

具体操作如下:

  1. 创建存量扫描任务
  2. 查看统计数据
  3. 查看扫描结果