OSS违规检测使用人工智能技术帮助您智能检测存储在阿里云对象存储服务OSS(Object Storage Service)中的图片、视频是否包含有色情、涉政等风险内容,并支持自动冻结检测出的违规内容。您可以通过内容安全控制台抽查机器审核的结果。

背景信息

  • OSS违规检测只向开通了阿里云OSS的用户提供服务。使用OSS违规检测前,您需要在内容安全控制台通过RAM授权内容安全服务读取OSS Bucket的权限。
    说明 您在首次登录内容安全控制台并访问OSS违规检测页面时,可以一键完成该操作。
  • OSS违规检测支持检测OSS Bucket中的增量内容和存量内容。
    • 增量内容(图片、视频)支持自动检测。增量检测一次配置即可长期生效。
    • 存量内容(图片、视频)不支持自动检测。如果要对存量图片、视频进行检测,您需要手动设置要检测的Bucket和时间范围,并执行存量扫描。
  • OSS违规检测支持检测特定格式后缀的文件。
    • 支持检测的图片格式如下:jpg、png、jpeg、gif、bmp
    • 支持检测的视频格式如下:avi、mp4、3gp、mkv、mpg、mpeg、ts、rmvb、wmv、flv、mov
  • OSS违规检测支持扫描以下endpoint中的OSS Bucket:
    • oss-cn-hangzhou.aliyuncs.com(杭州)
    • oss-cn-shanghai.aliyuncs.com(上海)
    • oss-cn-qingdao.aliyuncs.com(青岛)
    • oss-cn-beijing.aliyuncs.com(北京)
    • oss-cn-shenzhen.aliyuncs.com(深圳)
    • oss-cn-zhangjiakou.aliyuncs.com(张家口)
    • oss-cn-huhehaote.aliyuncs.com(呼和浩特)

使用授权

OSS违规检测只向开通了阿里云OSS的用户提供服务,在使用OSS违规检测前请确保您已开通OSS。如果您还未开通OSS,请前往OSS控制台开通OSS。
说明 如果您开启了OSS防盗链,则您必须在OSS控制台https://yundun.console.aliyun.com/?p=cts增加至Refer白名单。

您只有通过RAM授权云盾内容安全读取OSS Bucket的权限后,才能使用OSS违规检测。授权步骤如下:

  1. 登录云盾内容安全控制台
  2. 在左侧导航栏,单击OSS违规检测
  3. 根据页面提示,单击授权,授权云盾内容安全检测您的OSS图片。
    说明 如果您已授权内容安全检测 OSS,则此处没有提示。
  4. 云资源访问授权页面,单击同意授权,完成访问授权。
    云资源访问授权,aliyungreenservicedefaultrole

设置增量扫描

增量扫描只需配置一次即可,配置完成后,每当您的Bucket中有新增的内容,系统会自动对其进行检测。

  1. 登录云盾内容安全控制台
  2. 前往设置 > OSS违规检测页面,并打开增量扫描页签。
  3. 完成下表中描述的增量扫描配置。
    功能 配置 说明
    - Bucket设置 从左侧待选择框中勾选需要检测的Bucket,将其添加到右侧的已选择框中。
    说明
    • 左侧待选择框中罗列了当前阿里云账号在OSS中的可检测的Bucket,上面的数字表示可选择的Bucket的数量(例如下图中的“15”)。
    • 右侧已选择框中罗列了已选择的Bucket,上面的数字表示已选择的Bucket的数量(例如下图中的“9”)。

    bucket设置
    单击已选择的Bucket右侧的漏斗图标设置过滤规则,仅扫描指定前缀(或目录下)的文件。例如,添加img/test_,表示只扫描该Bucket中以img/test_为前缀的图片件。
    过滤规则
    如果要扫描的图片文件在特定目录下,您可以在文件名前加上目录路径,以整体作为前缀。例如,您要扫描的文件在img/201805目录下,且前缀为test_,您可以添加img/201805/test_;如果您只想扫描img/201805目录下的图片,您可以添加img/201805
    说明 一个Bucket最多可以设置10条过滤规则。
    - 冻结方式 对于检测出来的违规文件,选择一种冻结方式:
    • 修改文件访问权限:将您的Bucket中public权限的违规文件设置为private访问权限。
    • 移动违规文件:将您的Bucket中违规的文件移动到您Bucket中的备份目录下,并删除原路径下的文件。请慎重选择。

    冻结方式
    图片检测 检测类型 勾选涉黄涉政
    自动冻结 开启自动冻结后,当检测分值高于指定分值时,自动冻结图片。开启后,需要分别设置涉黄自动冻结阈值涉政自动冻结阈值
    说明 请慎重修改冻结阈值。默认冻结分数是100分,正常情况下不建议设置到99分以下,分数过低可能会导致正常图片被冻结,尤其是开启存量扫描时。冻结后的图片前台不可访问,帮助您防止风险外露。对于被冻结的照片,您可在OSS违规检测页面将其删除或者解冻。
    高级设置 设置每日扫描量上限,单位是万张。
    说明 默认没有上限。如果设置了扫描上限,扫描数量超出限制后将会停止扫描,存在巨大违规图片外露的风险。常规情况下,不建议您设置扫描上限。
    视频检测 检测类型 勾选涉黄涉政
    视频截帧设置
    • 截帧频率:每多少秒截取一帧。最慢60秒1帧,最块1秒1帧。截帧频率越高,识别准确率越高。
    • 单视频最大截帧数:单个视频的最大截帧数量,取值范围是100 ~ 9999。
    • 视频大小上限:检测的视频大小上限,取值范围是1~500MB,单个视频超过该上限不会被扫描。
    自动冻结 勾选涉黄视频涉政视频。开启后,违规视频将被自动冻结。

    其他设置,增量扫描
  4. 勾选我已同意《OSS 违规检测服务条款》,并单击保存
    保存后的设置即时生效。系统会按照配置,自动对已选择的Bucket进行图片/视频检测。

执行存量扫描

存量扫描为一次性的扫描动作,需要您手动配置并启动扫描。

  1. 登录云盾内容安全控制台
  2. 前往OSS违规检测 > 存量扫描页面。
  3. 单击开始扫描,并在提示对话框中单击确认
    开始扫描,存量扫描
    开始扫描
  4. 存量扫描设置侧边页完成存量扫描配置。配置内容与增量扫描一致,具体请参见增量扫描的配置说明。
    存量扫描设置
  5. 单击开始扫描,并等待扫描完成。扫描结束后您会收到短信通知。
    说明 在存量扫描过程中,您可以随时中止扫描。手动中止扫描后,扫描任务及配置会为您保留7天。您可以在合适的时间选择继续扫描
    中止扫描