本文以某社交平台为例,该平台的用户每天会上传大量的图片(图片上传后会存储于OSS对象存储服务tmpsample Bucket),为了快速监控该网站新增的图片是否涉及色情、涉政暴恐等,该平台使用内容安全OSS违规检测功能。本文主要介绍如何使用OSS违规检测功能监控该网站的图片。
前提条件
步骤一:授权访问OSS存储空间
OSS违规检测只向开通了阿里云对象存储OSS服务的用户提供服务。在使用OSS违规检测前,需要先开通OSS服务,并创建tmpsample Bucket,授权内容安全读取该Bucket权限。关于授权的具体操作,请参见授权内容安全访问OSS存储空间。
步骤二:设置增量扫描任务
通过增量扫描设置,您可以对tmpsample Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,会自动触发扫描),并实时查看近7天的增量扫描结果。
登录内容安全控制台。在左侧导航栏,选择 。
在增量扫描页签,按照实际业务进行如下配置:
选择Bucket。
从左侧待选择框中选择需要检测的Bucket,添加到右侧的已选择框中。
然后单击下一步。
设置过滤条件。
单击已选择的Bucket右侧设置过滤条件,按如下说明配置仅扫描img/test_前缀的图片文件。关于配置的详细介绍,请参见设置过滤条件。
然后单击下一步。
配置检测场景。
配置扫描范围。
扫描范围根据您配置的检测场景显示。例如,您在场景配置页面只勾选图片,那么扫描配置页面就只显示图片的配置信息。
设置每日图片扫描上限为100张,开启检测无后缀文件。
然后单击下一步。
配置冻结范围。
开启图片需要自动冻结开关。
设置涉黄、涉政、图文违规、不良场景选项按结论冻结。
选择修改权限冻结方式。
将您Bucket中public权限的违规文件设置为private访问权限。
然后单击下一步。
选中我已经同意OSS违规检测服务条款,并单击保存。
OSS违规检测功能会根据您的配置为您预估出扫描费用的上限,您可以根据实际业务选择按量付费或者资源包抵扣方式。然后单击确定。
增量扫描配置保存后即时生效。系统会按照增量扫描配置,自动对已选择Bucket中新增的图片、视频进行违规检测。
步骤三:查看扫描结果
OSS违规检测服务为您提供查看扫描结果的功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看扫描结果,并根据扫描结果执行自助审核。
登录内容安全控制台。
在左侧导航栏,选择 。
在增量扫描页面,单击操作列扫描结果。
在增量扫描结果页面,查看最近7天的增量扫描结果和处理违规内容。
如果扫描结果不符合您的业务需要,您可以对扫描结果进行自助审核,自助审核包含如下操作:
违规并删除
通过单击违规并删除,可将图片或视频从内容安全控制台和OSS Bucket中一并删除。支持单选或者多选。
正常并忽略
通过单击正常并忽略,则忽略该检测结果。忽略后该图片或视频将不再在控制台展示,并不影响存储在OSS Bucket中的图片或视频。支持单选或者多选。
正常并解冻
若您设置了自动冻结功能,则还可以在选中图片或视频后单击正常并解冻,将已冻结的图片或视频解冻。
步骤四:查看统计信息
OSS违规检测服务为您提供数据统计功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看数据统计信息。您可以通过监控一段时间的统计数据,根据网站内容的违规情况,对网站加强管控。
登录内容安全控制台。
在左侧导航栏,选择 。
在增量扫描页面,单击图标,然后单击数据统计。
在OSS违规检测1.0版调用量页面的图片页签,查看最近7天增量扫描的统计信息。