内容安全采用阿里云默认的机器审核标准为您提供内容检测服务。如果您在使用过程中发现默认的审核标准对您的业务需求过于严格或者宽松,您可以使用内容安全的自定义机审标准功能。本文介绍了如何配置自定义机审标准。

背景信息

业务场景(BizType):审核标准基于业务场景配置,每个业务场景对应一套审核标准。未配置自定义审核标准时,统一使用默认的业务场景以及对应的审核标准。配置自定义业务场景后,您必须在内容检测API的接口中传递自定义业务场景,检测才会按照自定义业务场景的标准进行。

操作步骤

  1. 登录内容安全控制台
  2. 在左侧导航栏,选择设置 > 内容检测API
  3. 创建业务场景。
    如果您已创建业务场景,请跳过该步骤。
    1. 内容检测API页面的机审标准页签,单击创建业务场景
    2. 创建bizType对话框中,请参考如下表格设置业务场景名称、行业模板、行业分类等信息。创建业务场景
      参数 说明
      BizType名称 为业务场景命名。支持使用数字、英文字符、下划线(_),且不超过32个字符。
      行业模板配置 具有行业标准的策略配置。使用行业模板的情况下,部分机审标准功能不可自定义,如不使用,则完全由您自行配置。
      行业分类 业务所属行业分类。若传入行业分类,我们能够更好地帮助您调整策略配置。
      从现有导入 如果您已经创建过业务场景,您可以直接导入已创建的业务场景的配置。
      描述 对业务场景的补充说明。支持使用中英文、数字、下划线组合,不超过32个字符。
    3. 单击确定,成功创建业务场景。
  4. 设置业务场景。
    不同检测场景的审核标准定义不同,具体以控制台显示为准。
    1. 内容检测API页面,单击目标业务场景右侧操作列的编辑
    2. 根据实际情况选择您需要设置的机审标准。

      目前内容安全支持设置图片、视频、文本和语音的机审标准。其中,图片和视频的机审内容包括色情、涉证暴恐、不良画面和图文违规;文本和语音机审内容主要是指文本或者语音是否涉黄、涉政、辱骂、广告和违禁。

      如果您的业务中不需要某个检测场景,那么不设置对应的检测场景即可。例如,您不需要检测广告,那么在设置机审标准中不配置广告相关的内容即可。

      图片
      说明 当您设置图片的机审标准时,您可以通过页面右侧的关联图库关联文本库关联风险库中的配置信息。
    3. 单击保存,完成自定义机审标准。

      在调用接口时,您需要传递对应的业务场景,设置的自定义机审标准才会生效。例如,检测图片涉黄风险时(请参见同步检测),请求参数scene需要传递porn,标准才会生效。