本文以某社交平台为例,该平台的用户每天会上传大量的图片(图片上传后会存储于OSS对象存储服务tmpsample Bucket),为了快速监控该网站新增的图片是否涉及色情、涉政暴恐等,该平台使用内容安全OSS违规检测功能。本文主要介绍如何使用OSS违规检测功能监控该网站的图片。
步骤一:授权访问OSS存储空间
OSS违规检测只向开通了阿里云对象存储OSS服务的用户提供服务。在使用OSS违规检测前,需要先开通OSS服务,并创建tmpsample Bucket,授权内容安全读取该Bucket权限。关于授权的具体操作,请参见授权内容安全访问OSS存储空间。
步骤二:设置增量扫描任务
通过增量扫描设置,您可以对tmpsample Bucket中新增的图片、视频自动进行违规检测(每当Bucket中有新增内容,会自动触发扫描),并实时查看近7天的增量扫描结果。
- 登录内容安全控制台。在左侧导航栏,选择。
- 在OSS违规检测页面的增量扫描页签,按照实际业务进行如下配置:
- 选择Bucket。
从左侧待选择框中选择需要检测的Bucket,添加到右侧的已选择框中。
然后单击下一步。
- 设置过滤条件。
单击已选择的Bucket右侧设置过滤条件,按如下说明配置仅扫描img/test_前缀的图片文件。关于配置的详细介绍,请参见设置过滤条件。
然后单击下一步。
- 配置检测场景。
展开
推荐配置下拉框,选择
社交行业推荐配置,并关闭视频和语音的检测场景。
关于参数说明的具体介绍,请参见配置检测场景。
然后单击下一步。
- 配置扫描范围。
扫描范围根据您配置的检测场景显示。例如,您在
场景配置页面只勾选
图片,那么
扫描配置页面就只显示图片的配置信息。
设置每日图片扫描上限为100张,开启检测无后缀文件。
然后单击下一步。
- 配置冻结范围。
- 选中我已经同意OSS违规检测服务条款,并单击保存。
OSS违规检测功能会根据您的配置为您预估出扫描费用的上限,您可以根据实际业务选择按量付费或者资源包抵扣方式。
然后单击确定。增量任务设置成功后,系统会自动跳转到页面。
增量扫描配置保存后即时生效。系统会按照增量扫描配置,自动对已选择Bucket中新增的图片、视频进行违规检测。
步骤三:查看扫描结果
OSS违规检测服务为您提供查看扫描结果的功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看扫描结果,并根据扫描结果执行自助审核。
- 登录内容安全控制台。
- 在左侧导航栏,选择。
- 在增量扫描页面,单击操作列扫描结果。
在
增量扫描结果页面,查看最近7天的增量扫描结果和处理违规内容。
如果扫描结果不符合您的业务需要,您可以对扫描结果进行自助审核,自助审核包含如下操作:
- 违规并删除
通过单击违规并删除,可将图片或视频从内容安全控制台和OSS Bucket中一并删除。支持单选或者多选。
- 正常并忽略
通过单击正常并忽略,则忽略该检测结果。忽略后该图片或视频将不再在控制台展示,并不影响存储在OSS Bucket中的图片或视频。支持单选或者多选。
- 正常并解冻
若您设置了自动冻结功能,则还可以在选中图片或视频后单击正常并解冻,将已冻结的图片或视频解冻。
步骤四:查看统计信息
OSS违规检测服务为您提供数据统计功能,当您完成增量扫描任务后,您可以随时在内容安全控制台查看数据统计信息。您可以通过监控一段时间的统计数据,根据网站内容的违规情况,对网站加强管控。
- 登录内容安全控制台。
- 在左侧导航栏,选择。
- 在增量扫描页面,单击
图标,然后单击数据统计。
- 在OSS违规检测调用量页面的图片页签,查看最近7天增量扫描的统计信息。