OSS违规检测使用人工智能技术帮助您检测阿里云对象存储服务OSS中的图片、视频是否包含色情、涉政等违规内容,并支持自动冻结(禁止公网访问)检测出的违规内容。通过扫描设置,您可以为OSS Bucket开启增量扫描,让内容安全自动扫描Bucket中的增量图片、视频;或者执行存量扫描,一次性扫描Bucket中的存量图片、视频。

背景信息

  • OSS违规检测只向开通了阿里云OSS(Object Storage Service)的用户提供服务。使用OSS违规检测前,您需要在内容安全控制台通过RAM授权内容安全服务读取OSS Bucket的权限。
    说明 您在首次登录内容安全控制台并访问OSS违规检测页面时,可以一键完成该操作。
  • OSS违规检测支持检测OSS Bucket中的增量内容和存量内容。
    • 增量内容(图片、视频)支持自动检测。增量检测一次配置即可长期生效。
    • 存量内容(图片、视频)不支持自动检测。如果要对存量图片、视频进行检测,您需要手动设置要检测的Bucket和时间范围,并执行存量扫描。
  • OSS违规检测支持对图片和视频对象应用多种场景的违规检测。
    • 支持的图片检测场景如下:涉黄、涉政、图文违规、不良场景
    • 支持的视频检测场景如下:涉黄、涉政、图文违规、不良场景、语音违规
  • OSS违规检测支持检测特定格式后缀的文件。
    • 支持检测的图片格式如下:jpg、png、jpeg、gif、bmp
    • 支持检测的视频格式如下:avi、mp4、3gp、mkv、mpg、mpeg、ts、rmvb、wmv、flv、mov
  • OSS违规检测目前支持扫描以下endpoint中的OSS Bucket:
    • oss-cn-hangzhou.aliyuncs.com(杭州)
    • oss-cn-shanghai.aliyuncs.com(上海)
    • oss-cn-qingdao.aliyuncs.com(青岛)
    • oss-cn-beijing.aliyuncs.com(北京)
    • oss-cn-shenzhen.aliyuncs.com(深圳)
    说明 若您的OSS Bucket位于其它endpoint,则暂时无法使用OSS违规检测。

使用授权

OSS违规检测只向开通了阿里云OSS的用户提供服务,在使用OSS违规检测前请确保您已开通OSS。如果您还未开通OSS,请前往OSS控制台开通OSS。
说明 如果您已开启OSS防盗链,则您必须在OSS控制台https://yundunnext.console.aliyun.com增加至Referer白名单。更多信息,请参见设置防盗链

您只有通过RAM授权云盾内容安全读取OSS Bucket的权限后,才能使用OSS违规检测。授权步骤如下:

  1. 登录云盾内容安全控制台
  2. 在左侧导航栏,单击OSS违规检测
  3. 根据页面提示,单击授权,授权云盾内容安全检测您的OSS图片。
    说明 如果您已授权内容安全检测 OSS,则此处没有提示。
  4. 云资源访问授权页面,单击同意授权,完成访问授权。云资源访问授权,aliyungreenservicedefaultrole

设置增量扫描

增量扫描只需配置一次即可,配置完成后,每当您的Bucket中有新增的内容,系统会自动对其进行检测。

  1. 登录云盾内容安全控制台
  2. 在左侧导航栏,单击设置 > OSS违规检测
  3. 增量扫描页签下,完成增量扫描配置。配置描述如下。
    类型 配置项 说明
    扫描对象 Bucket设置 从左侧待选择框中勾选需要检测的Bucket,将其添加到右侧的已选择框中。
    待选择框中罗列了当前阿里云账号在OSS中的可检测到的所有Bucket。bucket设置
    单击已选择的Bucket右侧的漏斗图标设置过滤规则,仅扫描指定前缀(或目录下)的文件。例如,添加“img/test_”,表示只扫描该Bucket中以img/test_为前缀的图片文件。过滤规则
    如果要扫描的图片文件在特定目录下,您可以在文件名前加上目录路径,以整体作为前缀。例如,您要扫描的文件在img/201805目录下,且前缀为test_,您可以添加“img/201805/test_”;如果您只想扫描img/201805目录下的图片,您可以添加“img/201805”。
    说明 一个Bucket最多可以设置10条过滤规则。
    冻结方式 冻结方式 对于检测出来的违规文件,选择一种冻结方式:
    • 修改文件访问权限:将您的Bucket中public权限的违规文件设置为private访问权限。互联网用户无法读取private权限的文件,但您可以通过文件URL将您存储空间内的私有Object分享给您的合作伙伴访问,详情请参见在URL中包含签名
    • 移动违规文件:将您的Bucket中违规的文件移动到您Bucket中的备份目录下,并删除原路径下的文件。选择该方式时请慎重。
    冻结方式
    图片检测 检测场景 勾选要应用的检测场景,支持以下场景:涉黄涉政图文广告不良场景
    图片自动冻结 打开开启自动冻结开关后,当检测分值高于指定分值时,自动冻结图片。若开启自动冻结,需要分别设置涉黄自动冻结阈值涉政自动冻结阈值图文违规冻结阈值不良场景冻结阈值
    说明 请慎重修改冻结阈值。默认冻结分数是100分,正常情况下不建议设置到99分以下,分数过低可能会导致正常图片被冻结,尤其是开启存量扫描时。冻结后的图片前台不可访问,帮助您防止风险外露。对于被冻结的照片,您可在OSS违规检测页面将其删除或者解冻。
    高级设置 设置每日扫描量上限,单位是万张。
    说明 默认没有上限。如果设置了扫描上限,扫描数量超出限制后将会停止扫描,存在巨大违规图片外露的风险。常规情况下,不建议您设置扫描上限。
    图片检测
    视频检测 检测场景 勾选要应用的检测场景,支持以下场景:涉黄涉政图文广告不良场景语音反垃圾
    视频截帧设置
    • 截帧频率:每多少秒截取一帧。最慢60秒1帧,最快1秒1帧。截帧频率越高,识别准确率越高。
    • 单视频最大截帧数:单个视频的最大截帧数量,取值范围是100 ~ 9999。
    • 视频大小上限:检测的视频大小上限,取值范围是1~500 MB,单个视频超过该上限不会被扫描。
    视频自动冻结 开启后,违规视频将被自动冻结。根据需要为要冻结的视频打开冻结开关:涉黄视频涉政视频图文违规视频不良场景视频语音违规视频
    视频检测
  4. 勾选我已经同意《OSS 违规检测服务条款》,并单击保存
    保存后的设置即时生效。系统会按照配置,自动对已选择的Bucket中新增的图片/视频执行增量扫描。您可以在OSS违规检测 > 增量扫描页面查看扫描结果和扫描数据统计。

执行存量扫描

存量扫描为一次性的扫描动作,需要您手动配置并启动扫描。

  1. 登录云盾内容安全控制台
  2. 前往OSS违规检测 > 存量扫描页面。
  3. 单击开始扫描,并在提示对话框中单击确认开始扫描,存量扫描开始扫描
  4. 存量扫描设置侧边页完成存量扫描配置。配置内容与增量扫描一致,具体请参见增量扫描的配置描述存量扫描设置
  5. 单击开始扫描,立即启动扫描任务。
    扫描对象的数量越多,扫描需要的时间越久。请耐心等待扫描完成。扫描结束后您会收到短信通知。
  6. 可选: 中止/继续扫描。
    在存量扫描过程中,您可以随时中止扫描中止扫描
    手动中止扫描后,扫描任务及配置会为您保留7天。您可以在中止扫描后的7天内选择继续扫描继续扫描