通过增量扫描设置,您可以对指定OSS Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,将自动触发扫描),并实时查看近7天的增量扫描结果。

前提条件

背景信息

关于OSS违规检测的使用限制(例如,支持的OSS Bucket、检测场景、文件格式等),请参见使用限制

操作步骤

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择设置 > OSS违规检测
  3. 选择Bucket。
    按照以下操作选择Bucket,然后单击下一步
    1. 从左侧待选择框中选中需要检测的Bucket,添加到右侧的已选择框中。
      待选择框中罗列了当前阿里云账号在OSS中可检测到的所有Bucket。bucket设置
    2. 设置过滤条件。

      单击已选择的Bucket右侧设置过滤条件,按如下说明进行配置,然后单击下一步

      说明 一个Bucket最多可以设置10条过滤规则。
      过滤规则
      配置示例:
      • 添加img/test_,表示只扫描该Bucket中以img/test_为前缀的文件。
      • 如果要扫描的文件在特定目录下,您可以在文件名前加上目录路径,以整体作为前缀。例如,您要扫描的文件在img/201805目录下,且前缀为test_,您可以添加img/201805/test_;如果您只想扫描img/201805目录下的文件,您可以添加img/201805
  4. 配置扫描信息。
    您需要在图片、视频和语音中至少选择一项进行扫描。请根据以下说明完成扫描配置,然后单击下一步
    • 开启图片扫描开关,设置图片扫描信息。图片
      表 1. 图片扫描参数说明
      参数名称 说明
      扫描场景 设置检测场景。支持的场景:涉黄涉政图文广告不良场景。您可以选择一个场景或者多个场景。
      每日图片扫描张数上限 每日图片扫描张数默认没有上限。如果设置了扫描上限,扫描数量超出限制后将会停止扫描,因此会存在巨大违规图片外露的风险。常规情况下,不建议您设置扫描上限。
      检测无后缀文件 开启检测无后缀文件后,会扫描无后缀的图片文件,检测速度会降低,根据http头的content-type判断是否为图片,支持content-type有:image/jpg,image/jpeg,image/png,image/gif,mage/bmp,image/webp。
    • 开启视频扫描开关,设置视频扫描信息。视频
      表 2. 视频扫描参数说明
      参数名称 说明
      扫描场景 选择要应用的扫描场景,支持的场景:涉黄涉政图文广告不良场景(例如,黑屏、黑边、昏暗画面、画中画、吸烟、车内直播等)、语音反垃圾
      截帧频率 每多少秒截取一帧。最慢60秒1帧,最快1秒1帧。截帧频率越高,识别准确率越高。
      单视频帧数上限 您可以设置单个视频的最大截帧数量。单位:帧,取值范围:100~9999。
      单视频大小上限 您可以设置单个视频的大小上限。单位:MB,取值范围:1~500 MB。单个视频超过该上限将不会被扫描。
    • 开启语音扫描开关,设置语音检测。语音检测
      表 3. 语音扫描参数说明
      参数名称 说明
      扫描场景 选择要应用的检测场景,当前只支持语音反垃圾场景。
      单音频大小上线 您可以设置单音频大小上限,取值范围:1~2048 MB,默认为200 MB,超过部分不会被检测。
  5. 配置冻结方式。
    对于检测出来的违规文件(例如,涉黄、涉政等),选择一种冻结方式。请根据以下说明完成冻结设置,然后单击下一步
    • 开启图片自动冻结开关,设置图片冻结阈值。图片冻结

      开启自动冻结开关后,当检测分值高于指定分值时,自动冻结图片。图片冻结后,前台将不可访问图片,防止风险外露。对于被冻结的照片,您可在OSS违规检测页面将其删除或者解冻。

      如果开启自动冻结,需要分别设置涉黄自动冻结阈值涉政自动冻结阈值图文违规冻结阈值不良场景冻结阈值

      注意 请慎重修改冻结阈值。默认冻结分数是99.01分,正常情况下不建议设置到99分以下,分数过低可能会导致正常图片被冻结。
    • 开启视频自动冻结开关,设置视频冻结范围。视频冻结

      开启后,相关视频将被自动冻结。根据需要为要冻结的视频打开冻结开关:涉黄视频涉政视频图文违规视频不良场景视频(例如,黑屏、黑边、昏暗画面、画中画、吸烟、车内直播等)、语音违规视频

    • 开启语音自动冻结开关,设置语音冻结内容。语音冻结

      开启后,相关语音将被自动冻结。根据需要为要冻结的语音打开冻结开关:冻结确定违规内容冻结疑似违规内容

    • 设置文件的冻结方式。

      文件的冻结方式包含以下两种:

      • 修改文件访问权限:将您的Bucket中public权限的违规文件设置为private访问权限,互联网用户无法读取private权限的文件。更多信息,请参见在URL中包含签名
      • 移动违规文件:将您Bucket中违规的文件移动到Bucket中的备份目录,方便您后期查找并重新审核这些违规文件。(位置:${bucket}/aligreen_freeze_backup/),并删除原路径下的文件。
        注意 选择该方式时请慎重。文件删除后将无法恢复,如需找回被删除的文件,您必须到备份目录中查找。
  6. 配置回调通知方案
    选择一个已有的回调通知方案,通过指定的通知方案接收增量扫描的结果。
    说明 您必须先创建回调通知方案才可以进行设置。关于如何创建通知方案,请参见配置回调通知
  7. 选中我已经同意OSS违规检测服务条款,并单击保存
    增量扫描配置保存后即时生效。系统会按照增量扫描配置,自动对已选择Bucket中新增的图片、视频进行违规检测。

后续步骤

您可以在OSS违规检测 > 增量扫描页面查看近7天的扫描结果和数据统计信息。更多信息,请参见查看统计数据查看扫描结果