本文以某社交平台为例,该平台的用户每天会上传大量的图片(图片上传后会存储于OSS对象存储服务tmpsample Bucket),为了快速监控该网站新增的图片是否涉及色情、涉政暴恐等,该平台使用内容安全OSS违规检测功能。本文主要介绍如何使用OSS违规检测功能监控该网站的图片。

业务流程

业务流程

在使用OSS违规检测之前,请先阅读并完成前提条件的内容。快速体验OSS违规检测功能的步骤如下所示:

如果您需要更深入地了解OSS违规检测功能,请参见OSS违规检测使用简介

前提条件

步骤一:授权访问OSS存储空间

OSS违规检测只向开通了阿里云对象存储OSS服务的用户提供服务。在使用OSS违规检测前,您需要先开通OSS对象存储服务tmpsample Bucket,并授权内容安全读取该Bucket权限。关于授权的具体操作,请参见授权内容安全访问OSS存储空间

步骤二:设置增量扫描任务

通过增量扫描设置,您可以对tmpsample Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,将自动触发扫描),并实时查看近7天的增量扫描结果。

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择设置 > OSS违规检测
  3. OSS违规检测页面的增量扫描页签,按照想到完成如下配置:
    1. 选择Bucket
      从左侧待选择框中选择需要检测的Bucket,添加到右侧的已选择框中。bucket

      然后单击下一步

    2. 设置过滤条件
      过滤

      单击已选择的Bucket右侧设置过滤条件,按如下说明配置仅扫描img/test_前缀的图片文件。关于配置的详细介绍,请参见设置过滤条件

      然后单击下一步

    3. 配置检测场景
      展开推荐配置下拉框,选择社交行业推荐配置,并关闭视频和语音的检测场景。检测场景

      关于参数说明的具体介绍,请参见配置检测场景

      然后单击下一步

    4. 配置扫描范围
      扫描范围根据您配置的检测场景显示。例如,您在场景配置页面只勾选图片,那么扫描配置页面就只显示图片的配置信息。扫描范围

      设置每日图片扫描上线100张,开启检测无后缀文件

      然后单击下一步

    5. 配置冻结范围
      • 开启图片需要自动冻结开关。

        设置涉黄涉政图文违规不良场景选项按结论冻结。

      • 选择修改权限冻结方式。

        将您Bucket中public权限的违规文件设置为private访问权限。

      冻结

      然后单击下一步

  4. 选中我已经同意OSS违规检测服务条款,并单击保存
    OSS违规检测功能会根据您的配置为您预估出扫描费用的上限,您可以根据实际业务选择按量付费或者资源包抵扣方式。预估

    然后单击确定。增量任务设置成功后,系统会自动跳转到OSS违规检测 > 增量扫描任务页面。

    增量扫描配置保存后即时生效。系统会按照增量扫描配置,自动对已选择Bucket中新增的图片、视频进行违规检测。

步骤三:查看扫描结果

OSS违规检测服务为您提供查看扫描结果的功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看扫描结果,并根据扫描结果执行自助审核。

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择OSS违规检测 > 增量扫描概览
  3. 增量扫描页面,单击操作列扫描结果
    增量扫描结果页面,查看最近7天的增量扫描结果和处理违规内容。增量扫描结果
    如果扫描结果不符合您的业务需要,您可以对扫描结果进行自助审核,自助审核包含如下操作:
    • 违规并删除

      通过单击违规并删除,可将图片或视频从内容安全控制台和OSS Bucket中一并删除。支持单选或者多选。

    • 正常并忽略

      通过单击正常并忽略,则忽略该检测结果。忽略后该图片或视频将不再在控制台展示,并不影响存储在OSS Bucket中的图片或视频。支持单选或者多选。

    • 正常并解冻

      若您设置了自动冻结功能,则还可以在选中图片或视频后单击正常并解冻,将已冻结的图片或视频解冻。

步骤四:查看统计信息

OSS违规检测服务为您提供数据统计功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看数据统计信息。您可以通过监控一段时间的统计数据,根据网站内容的违规情况,对网站加强管控。

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择OSS违规检测 > 增量扫描概览
  3. 增量扫描页面,选择更多 > 数据统计
  4. OSS违规检测调用量页面的图片页签,查看最近7天增量扫描的统计信息。
    统计信息