全部产品
存储与CDN 数据库 安全 应用服务 数加·人工智能 数加·大数据基础服务 互联网中间件 视频服务 开发者工具 解决方案 物联网

OSS违规检测

更新时间:2017-11-15 16:53:48

OSS违规检测服务简介

内容安全通过人工智能技术鉴别违规图片,帮助您减少90%以上审核人力,有效降低涉黄涉政风险。

违规检测服务使用说明

一、授权

  1. 定位到云盾管理控制台 > 内容安全,单击OSS违规检测
    OSS授权
    若您未开通OSS,请前往OSS控制台开通,开通OSS服务。
    如果您已经是OSS用户,单击授权进行内容安全RAM授权。云资源访问授权
  2. 单击同意授权,完成访问授权。

    二、每日增量检测设置

  3. 在OSS违规检测页面,单击设置进行OSS Bucket的选择。
    设置OSS Bucket
  4. 在设置页面中,单击OSS违规检测。选择您想要检测的OSS Bucket
    设置页面
  5. 选择检测类型,根据自身需要勾选涉黄检测和涉政检测,单击保存

    三、存量检测设置

    1.在OSS违规检测,点击右上角的存量图片扫描按钮。存量扫描2.点击开始扫描按钮,打开扫描范围设置页面。
  • 选择要扫描的bucket,会扫描这个所选bucket内存在的所有图片
  • 选择图片时间范围,注意这个时间是图片存入的时间
  • 选择检测类型,注意,涉政和涉黄两个检测服务是分开计费的。例如,一张图片选择涉政和涉黄检测,既要计入涉政的计费,同时也会计入涉黄的计费。存量扫描设置

    四、检测结果处理说明

    存量和增量检测结果页面类型,以增量检测页面为例说明。
  1. 结果展示。(示例中图片分值不代表真实得分,仅仅用作举例展示)
    结果
  2. 设置查询条件。
    • 每一张图片下方会有违规检测服务检测出的风险分值,分值从0-100,分值越高,代表该图片是违规概率越大。
    • 您可以根据涉政涉黄分值Bucket时间进行查询。
  3. 将鼠标放置在每一张图片上,会显示对该图片相应的操作项。
    • 单击违规并删除,可将图片从内容安全控制台和OSS Bucket中一并删除。
    • 单击正常并忽略,则忽略此图片检测结果。忽略后该图片将不再在控制台展示,并不影响保存在OSS Bucket中的图片。
    • 将鼠标放置在感叹号(!)上方可查看图片的基本信息,包括图片创建时间、文件名和所在Bucket名。
      图片信息
    • 单击图片可以将其选中,并可多选图片。单击全选可以选中当前页的所有图片,单击删除所选可将选中的图片全部删除;单击忽略所选可将选中的图片全部忽略。
    • 若您设置了自动冻结功能,则对图片操作还具备解冻功能。

五、高级设置

设置页面,单击OSS违规检测可对本服务进行设置。

  • 扫描上限设置:在buckt下面的高级设置中,您可在此处修改扫描每日增量扫描上限。默认是没有上限。
    注意:如果设置了扫描上限,扫描数量超出限制后将会停止扫描,存在巨大违规图片外露的风险,因此常规情况下不建议设置扫描上限
  • 自动冻结:若开启自动冻结功能并设置分值后,内容安全会对其设置的分值以上的图片进行冻结,涉黄和涉政的冻结分数可分开设置,冻结范围包括存量和增量扫描。冻结后的图片前台不可访问,帮助您防止风险外露。您可在OSS违规检测页面对已冻结的图片进行删除或者解冻。注意默认冻结分数是100分,正常情况下不建议设置到99分以下,因为过低的冻结分数可能会导致大量正常图片被冻结,尤其是存量扫描开启时。
  • 目前支持的endpoint:oss-cn-hangzhou.aliyuncs.com、oss-cn-shanghai.aliyuncs.com、oss-cn-qingdao.aliyuncs.com、oss-cn-beijing.aliyuncs.com、oss-cn-shenzhen.aliyuncs.com。

注意:设置页面所有设置操作均在单击保存之后即刻生效。

本文导读目录