内容安全通过人工智能技术鉴别OSS中的违规图片,帮助您减少90%以上审核人力,有效降低涉黄涉政风险。

观看以下视频,快速了解内容安全OSS违规检测功能。

前提条件

  • OSS违规检测服务只向阿里云OSS用户提供,在使用前,请确保您已开通阿里云OSS服务。

    如果您还未开通OSS,请前往OSS 控制台,开通OSS服务。

  • 您只有通过RAM授权云盾内容安全读取OSS Bucket的权限后,才能使用OSS违规检测。授权步骤如下:
    1. 登录云盾内容安全控制台
    2. 在左侧导航栏,单击OSS违规检测
    3. 根据页面提示,单击授权,授权云盾内容安全检测您的OSS图片。
      说明
      如果您已授权内容安全检测 OSS,则此处没有该提示。
    4. 单击同意授权,完成访问授权。

  • 如果您开启了OSS 防盗链,您必须在OSS 控制台https://yundun.console.aliyun.comhttps://yundun.console.aliyun.com/?p=cts增加至Refer白名单。
  • OSS违规检测支持的endpoint包括:oss-cn-hangzhou.aliyuncs.com、oss-cn-shanghai.aliyuncs.com、oss-cn-qingdao.aliyuncs.com、oss-cn-beijing.aliyuncs.com、oss-cn-shenzhen.aliyuncs.com。

设置增量扫描

您可以对指定的 Bucket 中的指定图片(或视频)启用增量内容自动检测,并根据检测结果执行相应处理;也可以对 OSS 空间中的指定图片(或视频)进行存量内容一次性检测,等待扫描完成后,直接查看检测结果,并执行相应处理。

参照以下步骤,对指定 Bucket 设置增量检测计划:
  1. 登录云盾内容安全控制台
  2. 前往设置 > OSS 违规检测
  3. Bucket 设置下,从左侧待选择框中勾选需要检测的Bucket,将其添加到右侧的已选择框中。
    说明
    左侧待选择框中罗列了当前阿里云账号在OSS中的可检测的Bucket,上面的数字表示可选择的Bucket的数量(例如下图中的“15”)。


    说明
    右侧已选择框中罗列了已选择的Bucket,上面的数字表示已选择的Bucket的数量(例如上图中的“9”)。单击已选择的Bucket右侧的漏斗图标可以设置过滤规则,仅扫描指定前缀(或目录下)的图片文件。例如,添加img/test_,则表示只扫描该Bucket中以img/test_为前缀的图片。


    如果要扫描的图片文件在特定目录下,您可以在文件名前加上目录路径,以整体作为前缀。例如,您要扫描的文件在 img/201805目录下,且前缀为 test_,您可以添加 img/201805/test_;如果您只想扫描 img/201805目录下的图片,您可以添加 img/201805
    说明
    您最多可以为一个Bucket设置10条过滤规则。
  4. 选择开启图片检测、视频检测,并完成相关配置。参数说明如下:

    功能 配置 说明
    图片检测 检测类型 勾选涉黄涉政
    自动冻结 开启自动冻结后,当检测分值高于指定分值时,自动冻结图片。开启后,需要分别设置涉黄自动冻结阈值涉政自动冻结阈值
    说明
    请慎重修改冻结阈值。默认冻结分数是100分,正常情况下不建议设置到99分以下,分数过低可能会导致正常图片被冻结,尤其是开启存量扫描时。冻结后的图片前台不可访问,帮助您防止风险外露。对于被冻结的照片,您可在OSS违规检测页面将其删除或者解冻。
    高级设置 开启/关闭限定每日图片扫描上限,并设置每日扫描量上限
    说明
    默认没有上限。如果设置了扫描上限,扫描数量超出限制后将会停止扫描,存在巨大违规图片外露的风险。常规情况下,不建议您设置扫描上限。
    视频检测 检测类型 勾选涉黄涉政
    视频截帧设置
    • 截帧频率:截帧频率越高,识别准确率越高。最低 60 秒 1 帧,最高 1 秒 1 帧。
    • 单视频最大截帧数:设置超过多少帧以后不再截帧,作为上限保护参数。最少 100 帧,最多 9999 帧。
    • 视频文件大小:设置仅扫描多少M以内大小的文件。检测视频大小不能超出 500M。
    自动冻结 开启后,违规视频将被自动冻结。勾选涉黄视频涉政视频
  5. 勾选我已同意《OSS 违规检测服务条款》,并单击保存,保存后的设置即时生效。

设置成功后,系统会按照配置,自动对已选择的Bucket进行图片/视频检测。

执行存量扫描

您可以对指定Bucket中的指定图片(或视频)启用增量内容自动检测,并根据检测结果执行相应处理;也可以对OSS空间中的指定图片(或视频)进行存量内容一次性检测,等待扫描完成后,直接查看检测结果,并执行相应处理。

参照以下步骤,一次性扫描指定Bucket中的存量图片(和视频):

  1. 登录云盾内容安全控制台
  2. 前往OSS 违规检测 > 存量扫描
  3. 单击开始扫描,并确认。

  4. 存量扫描设置对话框完成相关设置。配置说明如下:

    配置 说明
    Bucket设置 选择要扫描的Bucket,并为已选择的Bucket设置扫描过滤规则。具体操作见设置增量扫描中步骤3说明。
    时间范围 选择要检测的时间范围,该时间指图片上传到Bucket中的时间。
    文件类型 勾选要检测的文件类型:图片视频
    检测类型 勾选要检测的场景类型:涉黄涉政
    说明
    涉政和涉黄检测分开计费。例如,一张图片选择涉政和涉黄检测,既要计入涉政的计费,也会计入涉黄的计费。
    其他设置 视频截帧自动冻结等,参考设置增量扫描中步骤4说明。
  5. 单击开始扫描,并等待扫描完成,扫描结束后您会收到短信通知。
    在存量扫描过程中,您随时可以 终止扫描。手动终止扫描后,扫描任务及配置会为您保留7天,供您在合适时间 继续扫描

检测结果处理

检测结束后,您可以在控制台查看、或按指定条件查询检测结果,并根据检测结果执行对应操作。
说明
存量和增量检测结果页面类似,以下以增量检测页面为例进行说明。
  1. 登录内容安全控制台
  2. 前往OSS违规检测 > 增量扫描页面,直接查看检测结果。

  3. 设置查询条件,查询指定结果。

    您可以指定图片/视频涉黄/涉政分值范围检测结果Bucket、图片上传的时间范围来过滤结果数据,直接查看您希望看到的结果(图中标识①)。其中,

    • 分值范围:每一张图片下方会有违规检测服务检测出的风险分值,分值从0-100,分值越高,代表该图片是违规概率越大。
    • 检测结果:违规、疑似、正常。
  4. 将鼠标放置在每一张图片/视频上,会显示与该图片/视频对应的操作项。您可以进行以下操作:
    • 单击违规并删除,可将图片/视频从内容安全控制台和OSS Bucket中一并删除(图中标识②)。
    • 单击正常并忽略,则忽略该检测结果。忽略后该图片/视频将不再在控制台展示,并不影响保存在OSS Bucket中的图片/视频(图中标识②)。
    • 单击图片/视频可将其选中,并支持多选。单击全选可以选中当前页的所有图片/视频,单击删除所选可将选中的图片/视频全部删除;单击忽略所选可将选中的图片/视频全部忽略(图中标识③)。
    • 若您设置了自动冻结功能,则还可以将已冻结的图片/视频解冻(图中标识③)。
    • 将鼠标放置在感叹号(!)上方可查看图片/视频的基本信息,包括创建时间、文件名和所在Bucket(图中标识④)。