OSS违规检测能够检测阿里云对象存储OSS服务中的图片、视频是否包含色情、涉政等违规内容,并可以自动冻结检测出的违规内容(禁止通过公网访问这些违规内容),帮助您规避使用OSS服务时可能遇到的内容违规风险。

功能介绍

OSS违规检测为使用阿里云OSS存储文件的用户,提供一键式的图像鉴黄、涉政暴恐检测服务、您可以将保存在OSS中的图片、视频等内容进行鉴黄、涉政暴恐风险检测,并且提供删除和冻结文件的功能,该功能无需您开发,只需要少许页面配置即可接入使用。OSS违规检测支持检测指定OSS Bucket中的增量内容和存量内容,即增量扫描和存量扫描:
  • 增量扫描

    支持自动检测。您可以为指定的OSS Bucket开启增量扫描,让内容安全自动扫描Bucket中新增的图片、视频。增量扫描一次配置即可长期生效。

  • 存量扫描

    不支持自动检测。如果需要对指定OSS Bucket中已有的图片、视频进行检测,您必须手动创建一个存量扫描任务,在任意时间,一次性扫描Bucket中已上传的图片、视频。

使用限制

OSS违规检测只向开通了阿里云对象存储OSS(Object Storage Service)的用户提供服务。关于OSS服务的更多信息,请参见什么是对象存储OSS

使用OSS违规检测前,您必须在内容安全控制台完成使用授权,授予内容安全服务对您的OSS Bucket的访问权限。

说明 您在首次登录内容安全控制台并访问OSS违规检测页面时,可以一键完成该操作。具体操作,请参见授权内容安全访问OSS存储空间
表 1. OSS违规检测的具体限制说明表
限制项 说明
OSS Bucket的地域 OSS违规检测目前支持扫描以下endpoint中的OSS Bucket:
  • oss-cn-hangzhou.aliyuncs.com:表示华东1(杭州)地域的OSS Bcuket。
  • oss-cn-shanghai.aliyuncs.com:表示华东2(上海)地域的OSS Bcuket。
  • oss-cn-qingdao.aliyuncs.com:表示华北1(青岛)地域的OSS Bcuket。
  • oss-cn-beijing.aliyuncs.com:表示华北2(北京)地域的OSS Bcuket。
  • oss-cn-shenzhen.aliyuncs.com:表示华南1(深圳)地域的OSS Bcuket。
说明 关于endpoint的具体介绍,请参见访问域名和数据中心。如果您的OSS Bucket位于其他endpoint,则暂时无法使用OSS违规检测。
检测场景 OSS违规检测支持的检测场景如下:
  • 图片违规检测场景:涉黄、涉政、图文违规、不良场景。
  • 视频违规检测场景:涉黄、涉政、图文违规、不良场景、语音违规。
检测对象 OSS违规检测支持检测的图片、视频文件格式如下:
  • 图片文件格式:JPGPNGJPEGGIFBMP
  • 视频文件格式:AVIMP43GPMKVMPGMPEGTSRMVBWMVFLVMOV

使用流程

步骤 操作 详细说明
步骤一 授权内容安全访问OSS存储空间 OSS违规检测只向开通了阿里云对象存储OSS服务的用户提供服务,所以请确保您已开通OSS存储空间并授权内容安全读取OSS Bucket。

关于授权的具体操作,请参见授权内容安全访问OSS存储空间

说明 首次使用OSS违规检测服务时,需要先授权OSS访问权限。服务只需要授权一次即可,完成授权后您无需再次授权。
步骤二 配置回调通知 内容安全支持以异步消息通知的方式向您发送机器内容识别和您自助审核的结果。若您的业务需要使用或集成相关数据,您需要配置回调通知。

关于回调通知的具体操作,请参见配置消息通知

步骤三 配置风险库 为了使检测结果更贴合您的实际业务,内容安全也支持自定义图库。您可以使用自定义图库指定需要拦截、放行、人工审核的图片。

关于风险库的具体操作,请参见配置风险库

步骤四 增量扫描 通过增量扫描设置,您可以让内容安全对指定OSS Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,将自动触发扫描),并实时查看近7天的增量扫描结果和数据统计。

具体操作如下:

  1. 设置增量扫描任务
  2. 查看统计数据
  3. 查看扫描结果
存量扫描 对于手动创建一个存量扫描任务,指定OSS Bucket中的已有图片或视频文件进行一次性违规检测,并在检测完成后查看扫描结果和数据统计信息。

具体操作如下:

  1. 创建存量扫描任务
  2. 查看统计数据
  3. 查看扫描结果