通过增量扫描设置,您可以让内容安全对指定OSS Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,将自动触发扫描),并实时查看近7天的增量扫描结果和数据统计。

前提条件

OSS违规检测只向已经开通了阿里云对象存储OSS的用户提供服务。在使用OSS违规检测前,请确保您已经开通OSS并授权内容安全读取您的OSS Bucket。具体操作,请参见使用授权

关于OSS违规检测的使用限制(例如支持的OSS Bucket、检测场景、文件格式等),请参见使用限制

设置增量扫描

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择设置 > OSS违规检测
  3. 增量扫描页签下,完成以下增量扫描配置。增量扫描
    类型 参数 说明
    扫描对象 Bucket设置
    1. 从左侧待选择框中选中需要检测的Bucket,添加到右侧的已选择框中。
      待选择框中罗列了当前阿里云账号在OSS中可检测到的所有Bucket。bucket设置
    2. 可选:单击已选择的Bucket右侧的漏斗图标可以设置过滤规则,仅扫描指定前缀(或目录下)的文件。
      说明 一个Bucket最多可以设置10条过滤规则。
      过滤规则
      配置示例:
      • 添加img/test_,表示只扫描该Bucket中以img/test_为前缀的文件。
      • 如果要扫描的文件在特定目录下,您可以在文件名前加上目录路径,以整体作为前缀。例如,您要扫描的文件在img/201805目录下,且前缀为test_,您可以添加img/201805/test_;如果您只想扫描img/201805目录下的文件,您可以添加img/201805
    冻结方式 冻结方式 对于检测出来的违规文件(例如涉黄、涉政等),选择一种冻结方式:
    • 修改文件访问权限:将您的Bucket中public权限的违规文件设置为private访问权限。互联网用户无法读取private权限的文件,但您可以通过文件URL将私有文件分享给您的合作伙伴访问。更多信息,请参见在URL中包含签名
    • 移动违规文件:将您Bucket中违规的文件移动到Bucket中的备份目录(位置:${bucket}/aligreen_freeze_backup/),并删除原路径下的文件。
      注意 选择该方式时请慎重。文件删除后将无法恢复,如需找回被删除的文件,您必须到备份目录中查找。
    图片检测 检测场景 打开图片检测开关,并选择要应用的检测场景,支持以下场景:涉黄涉政图文广告不良场景
    图片自动冻结 打开开启自动冻结开关后,当检测分值高于指定分值时,自动冻结图片。图片冻结后,前台将不可访问图片,防止风险外露。对于被冻结的照片,您可在OSS违规检测页面将其删除或者解冻。

    如果开启自动冻结,需要分别设置涉黄自动冻结阈值涉政自动冻结阈值图文违规冻结阈值不良场景冻结阈值

    注意 请慎重修改冻结阈值。默认冻结分数是99.01分,正常情况下不建议设置到99分以下,分数过低可能会导致正常图片被冻结。
    高级设置 设置每日图片扫描张数上限,单位是万张。
    注意 每日图片扫描张数默认没有上限。如果设置了扫描上限,扫描数量超出限制后将会停止扫描,因此会存在巨大违规图片外露的风险。常规情况下,不建议您设置扫描上限。
    视频检测 检测场景 打开视频检测开关,并选择要应用的检测场景,支持以下场景:涉黄涉政图文广告不良场景(例如黑屏、黑边、昏暗画面、画中画、吸烟、车内直播等)、语音反垃圾视频检测
    视频截帧设置
    • 截帧频率:每多少秒截取一帧。最慢60秒1帧,最快1秒1帧。截帧频率越高,识别准确率越高。
    • 单视频最大截帧数:单个视频的最大截帧数量。单位:帧,取值范围:100~9999。
    • 视频大小上限:检测的视频大小上限。单位:MB,取值范围:1~500。单个视频超过该上限将不会被扫描。
    视频自动冻结 开启后,违规视频将被自动冻结。根据需要为要冻结的视频打开冻结开关:涉黄视频涉政视频图文违规视频不良场景视频(例如黑屏、黑边、昏暗画面、画中画、吸烟、车内直播等)、语音违规视频
    回调通知 回调通知方案 选择一个已有的回调通知方案,通过指定的通知方案接收增量扫描的结果。
    说明 您必须先创建回调通知方案才可以进行设置。关于如何创建通知方案,请参见回调通知
  4. 选中我已经同意OSS违规检测服务条款,并单击保存
    增量扫描配置保存后即时生效。系统会按照增量扫描配置,自动对已选择Bucket中新增的图片、视频进行违规检测。

    您可以在OSS违规检测 > 增量扫描页面查看近7天的扫描结果和数据统计信息。

查看扫描结果和数据统计

完成增量扫描配置后,您可以随时在内容安全控制台查看近7天的增量扫描结果和数据统计信息。

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择OSS违规检测 > 增量扫描
  3. 查看数据统计。
    您可以在数据统计页签下查看近7天增量扫描的数据统计信息。单击图片视频页签可以查看对应的结果。支持通过时间筛选数据。
    说明 目前仅支持查询近7天的数据。
    数据统计
    支持查看的数据统计信息如下表所示。
    对象 支持的统计信息
    图片
    • 图片总量(表示检测的图片总数量)
    • 鉴黄场景检测量(包含违规、疑似、正常结果的数量)
    • 暴恐涉政场景检测量(包含违规、疑似、正常结果的数量)
    • 广告场景检测量(包含违规、疑似、正常结果的数量)
    • 不良场景检测量(包含违规、疑似、正常结果的数量)
    视频
    • 视频总量(表示检测的视频总数量)
    • 截帧总量(表示检测的视频截帧总数量)
    • 鉴黄场景视频量(包含违规、疑似、正常结果的数量)
    • 暴恐涉政场景视频量(包含违规、疑似、正常结果的数量)
    • 广告场景检测量(包含违规、疑似、正常结果的数量)
    • 不良场景检测量(包含违规、疑似、正常结果的数量)
    • 语音反垃圾检测量(包含违规、疑似、正常结果的数量)
  4. 查看扫描结果。
    您可以在扫描结果页签下查看近7天的增量扫描结果和处理违规内容。扫描结果