全部产品
弹性计算 会员服务 网络 安全 移动云 数加·大数据分析及展现 数加·大数据应用 管理与监控 云通信 阿里云办公 培训与认证 智能硬件
存储与CDN 数据库 域名与网站(万网) 应用服务 数加·人工智能 数加·大数据基础服务 互联网中间件 视频服务 开发者工具 解决方案 物联网 更多
内容安全

OSS违规检测

更新时间:2018-05-31 17:57:14

功能说明

内容安全通过人工智能技术鉴别OSS中的违规图片,帮助您减少90%以上审核人力,有效降低涉黄涉政风险。

前提条件

  • OSS 违规检测服务只向阿里云 OSS 用户提供,在使用前,请确保您已开通阿里云OSS服务。

    如果您还未开通 OSS,请前往 OSS 控制台,开通 OSS 服务。

  • 您只有通过 RAM 授权云盾内容安全读取 OSS Bucket 的权限后,才能使用 OSS 违规检测。授权步骤如下:

    1. 登录到 云盾内容安全控制台

    2. 在左侧导航栏,单击 OSS违规检测

    3. 根据页面提示,单击 授权,授权云盾内容安全检测您的 OSS 图片。

      说明:如果您已授权内容安全检测 OSS,则此处没有该提示。

    4. 单击 同意授权,完成访问授权。

      云资源访问授权

  • 如果您开启了 OSS 防盗链,您必须在 OSS 控制台https://yundun.console.aliyun.comhttps://yundun.console.aliyun.com/?p=cts 增加至 Refer 白名单。

  • OSS违规检测支持的endpoint包括:oss-cn-hangzhou.aliyuncs.com、oss-cn-shanghai.aliyuncs.com、oss-cn-qingdao.aliyuncs.com、oss-cn-beijing.aliyuncs.com、oss-cn-shenzhen.aliyuncs.com。

设置增量扫描

您可以对指定的 Bucket 中的指定图片(或视频)启用增量内容自动检测,并根据检测结果执行相应处理;也可以对 OSS 空间中的指定图片(或视频)进行 存量内容一次性检测,等待扫描完成后,直接查看检测结果,并执行相应处理。

参照以下步骤,对指定 Bucket 设置增量检测计划:

  1. 登录 云盾内容安全控制台

  2. 前往 设置 > OSS 违规检测

  3. Bucket 设置 下,从左侧 待选择 框中勾选需要检测的 Bucket,并将其添加到右侧的 已选择 框中。

    说明:左侧 待选择 框中罗列了当前阿里云账号在 OSS 中的可检测的 Bucket,上面的数字表示可选择的 Bucket 的数量(下图中的“15”)。

    Bucket设置

    说明:右侧 已选择 框中罗列了已选择的 Bucket,上面的数字表示已选择的 Bucket 的数量(上图中的“9”)。单击已选择的 Bucket 右侧的漏斗图标可以设置过滤规则,仅扫描指定前缀(或目录下)的图片文件。例如,添加img/test_,则表示只扫描该 Bucket 中以 img/test_ 为前缀的图片。

    过滤规则

    说明:如果要扫描的图片文件在特定目录下,您可以在文件名前加上目录路径,以整体作为前缀。例如,您要扫描的文件在img/201805目录下,且前缀为test_,您可以添加 img/201805/test_;如果您只想扫描img/201805目录下的图片,您可以添加img/201805

    说明:您最多可以为一个 Bucket 设置10条过滤规则。

  4. 选择开启图片检测、视频检测,并完成相关配置。参数说明如下:

    图片、视频检测

    功能 参数 说明
    图片检测 检测类型 勾选 涉黄涉政
    自动冻结 开启自动冻结 后,当检测分值高于指定分值时,自动冻结图片。开启后,需要分别设置 涉黄和涉政自动冻结阈值
    说明:请慎重修改冻结阈值。默认冻结分数是100分,正常情况下不建议设置到99分以下,分数过低可能会导致正常图片被冻结,尤其是开启存量扫描时。
    冻结后的图片前台不可访问,帮助您防止风险外露。对于被冻结的照片,您可在 OSS违规检测 页面将其删除或者解冻。
    高级设置 开启/关闭 限定每日图片扫描上限,并设置 每日扫描量上限
    说明:默认没有上限。如果设置了扫描上限,扫描数量超出限制后将会停止扫描,存在巨大违规图片外露的风险。常规情况下,不建议您设置扫描上限。
    视频检测 检测类型 勾选 涉黄涉政
    视频截帧设置
    • 截帧频率:截帧频率越高,识别准确率越高。最低 60 秒 1 帧,最高 1 秒 1 帧。
    • 单视频最大截帧数:设置超过多少帧以后不再截帧,作为上限保护参数。最少 100 帧,最多 9999 帧。
    • 视频文件大小:设置仅扫描多少M以内大小的文件。检测视频大小不能超出 500M。
    自动冻结 开启后,违规视频将被自动冻结。勾选 涉黄视频涉政视频
  5. 勾选 我已同意《OSS 违规检测服务条款》,并单击 保存,保存后的设置即时生效。

设置成功后,系统会按照配置,自动对已选择的 Bucket 进行图片/视频检测。

执行存量扫描

您可以对指定 Bucket 中的指定图片(或视频)启用 增量内容自动检测,并根据检测结果执行相应处理;也可以对 OSS 空间中的指定图片(或视频)进行存量内容一次性检测,等待扫描完成后,直接查看检测结果,并执行相应处理。

参照以下步骤,一次性扫描指定 Bucket 中的存量图片(和视频):

  1. 登录 云盾内容安全控制台

  2. 前往 OSS 违规检测 > 存量扫描

  3. 单击 开始扫描,并确认。

    确认扫描

  4. 存量扫描设置 对话框,完成相关设置。参数说明如下:

    存量扫描设置

    • Bucket 设置:选择要扫描的 Bucket,并为已选择的 Bucket 设置扫描过滤规则。具体操作见 设置增量检测 中步骤3说明。

    • 时间范围:选择要检测的时间范围,该时间指图片上传到 Bucket 中的时间。

    • 检测服务:勾选要检测的 文件类型(图片、视频) 和 检测类型(涉黄、涉政)。
      说明:涉政和涉黄检测分开计费。例如,一张图片选择涉政和涉黄检测,既要计入涉政的计费,也会计入涉黄的计费。

    • 其他设置,如 视频截帧自动冻结,参考 设置增量检测 中步骤4说明。

  5. 单击 开始扫描,并等待扫描完成,扫描结束后您会收到短信通知。

    在存量扫描过程中,您随时可以 终止扫描。手动终止扫描后,扫描任务及配置会为您保留7天,供您在合适时间 继续扫描

    开始扫描

检测结果处理

检测结束后,您可以在控制台查看、或按指定条件查询检测结果,并根据检测结果执行对应操作。

说明:存量和增量检测结果页面类似,以下以增量检测页面为例进行说明。

  1. 前往 内容安全控制台 > OSS 违规检测 > 增量扫描 页面,直接查看检测结果。

    查看检测结果

  2. 设置查询条件,查询指定结果。

    您可以指定 图片/视频涉黄/涉政分值范围检测结果Bucket、图片上传的时间范围来过滤结果数据,直接查看您希望看到的结果(图中标识①)。其中,

    • 分值范围:每一张图片下方会有违规检测服务检测出的风险分值,分值从0-100,分值越高,代表该图片是违规概率越大。

    • 检测结果:违规、疑似、正常。

  3. 将鼠标放置在每一张图片/视频上,会显示与该图片/视频对应的操作项。您可以进行以下操作:

    • 单击 违规并删除,可将图片/视频从内容安全控制台和 OSS Bucket 中一并删除(图中标识②)。

    • 单击 正常并忽略,则忽略该检测结果。忽略后该图片/视频将不再在控制台展示,并不影响保存在 OSS Bucket 中的图片/视频(图中标识②)。

    • 单击图片/视频可将其选中,并支持多选。单击 全选 可以选中当前页的所有图片/视频,单击 删除所选 可将选中的图片/视频全部删除;单击 忽略所选 可将选中的图片/视频全部忽略(图中标识③)。

    • 若您设置了自动冻结功能,则还可以将已冻结的图片/视频 解冻(图中标识③)。

    • 将鼠标放置在感叹号(!)上方可查看图片/视频的基本信息,包括创建时间、文件名和所在Bucket(图中标识④)。

本文导读目录