文档

OSS违规检测

更新时间:

本文以某社交平台为例,该平台的用户每天会上传大量的图片(图片上传后会存储于OSS对象存储服务tmpsample Bucket),为了快速监控该网站新增的图片是否涉及色情、涉政暴恐等,该平台使用内容安全OSS违规检测功能。本文主要介绍如何使用OSS违规检测功能监控该网站的图片。

前提条件

步骤一:授权访问OSS存储空间

OSS违规检测只向开通了阿里云对象存储OSS服务的用户提供服务。在使用OSS违规检测前,需要先开通OSS服务,并创建tmpsample Bucket,授权内容安全读取该Bucket权限。关于授权的具体操作,请参见授权内容安全访问OSS存储空间

步骤二:设置增量扫描任务

通过增量扫描设置,您可以对tmpsample Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,会自动触发扫描),并实时查看近7天的增量扫描结果。

  1. 登录内容安全控制台。在左侧导航栏,选择OSS 违规检测V1.0 > 设置

  2. 增量扫描页签,按照实际业务进行如下配置:

    1. 选择Bucket

      从左侧待选择框中选择需要检测的Bucket,添加到右侧的已选择框中。

      然后单击下一步

    2. 设置过滤条件

      单击已选择的Bucket右侧设置过滤条件,按如下说明配置仅扫描img/test_前缀的图片文件。关于配置的详细介绍,请参见设置过滤条件

      然后单击下一步

    3. 配置检测场景

      展开推荐配置下拉框,选择社交行业推荐配置,并关闭视频和语音的检测场景。

      关于参数说明的具体介绍,请参见配置检测场景

      然后单击下一步

    4. 配置扫描范围

      扫描范围根据您配置的检测场景显示。例如,您在场景配置页面只勾选图片,那么扫描配置页面就只显示图片的配置信息。

      设置每日图片扫描上限100张,开启检测无后缀文件

      然后单击下一步

    5. 配置冻结范围

      • 开启图片需要自动冻结开关。

        设置涉黄涉政图文违规不良场景选项按结论冻结。

      • 选择修改权限冻结方式。

        将您Bucket中public权限的违规文件设置为private访问权限。

      然后单击下一步

  3. 选中我已经同意OSS违规检测服务条款,并单击保存

    OSS违规检测功能会根据您的配置为您预估出扫描费用的上限,您可以根据实际业务选择按量付费或者资源包抵扣方式。然后单击确定

    增量扫描配置保存后即时生效。系统会按照增量扫描配置,自动对已选择Bucket中新增的图片、视频进行违规检测。

步骤三:查看扫描结果

OSS违规检测服务为您提供查看扫描结果的功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看扫描结果,并根据扫描结果执行自助审核。

  1. 登录内容安全控制台

  2. 在左侧导航栏,选择OSS违规检测V1.0 > 增量扫描

  3. 增量扫描页面,单击操作列扫描结果

    增量扫描结果页面,查看最近7天的增量扫描结果和处理违规内容。

    如果扫描结果不符合您的业务需要,您可以对扫描结果进行自助审核,自助审核包含如下操作:

    • 违规并删除

      通过单击违规并删除,可将图片或视频从内容安全控制台和OSS Bucket中一并删除。支持单选或者多选。

    • 正常并忽略

      通过单击正常并忽略,则忽略该检测结果。忽略后该图片或视频将不再在控制台展示,并不影响存储在OSS Bucket中的图片或视频。支持单选或者多选。

    • 正常并解冻

      若您设置了自动冻结功能,则还可以在选中图片或视频后单击正常并解冻,将已冻结的图片或视频解冻。

步骤四:查看统计信息

OSS违规检测服务为您提供数据统计功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看数据统计信息。您可以通过监控一段时间的统计数据,根据网站内容的违规情况,对网站加强管控。

  1. 登录内容安全控制台

  2. 在左侧导航栏,选择OSS违规检测V1.0 > 增量扫描

  3. 增量扫描页面,单击图标图标,然后单击数据统计

  4. OSS违规检测调用量页面的图片页签,查看最近7天增量扫描的统计信息。

  • 本页导读 (0)