内容安全文档审核增强版服务,基于内容治理经验和众多行业场景的常见内容管理标准,为您预置了文档审核的通用策略配置,如果预置配置无法满足您的业务需求,您可以调整文档审核的策略。本文介绍如何调整文档审核的风险检测策略。
应用场景
当您的业务遇到如下场景时,您可以基于阿里云提供的文档审核增强版控制台实现对检测规则和检测范围的个性化调整,也可以通过控制台查询检测结果、统计检测量。
首次使用时,建议您登录内容安全控制台查看文档审核初始的检测策略配置。
应用场景 | 说明 |
您可以根据行业常见特性或自身业务所需,对文档检测的策略进行调整。支持调整的检测策略如下:
例如,您希望文档图像仅检测红线违规内容,可以通过控制台设置画面检测的规则进行调整。 | |
如您有多个业务需要用到同一个服务(service),但是希望每个业务设置的风险检测策略不同,则可以通过复制service实现不同业务设置不同检测策略的需求。 例如,您有A、B、C三个业务都需要用到通用文档检测(document_detection)服务,但是三个业务标准不一致,您可以通过控制台复制document_detection服务,创建document_detection_01、document_detection_02服务,通过对这3个检测服务(service)设置不同的风险检测策略,从而满足不同业务的需求。 | |
如您希望将文档截图后的图片长期存储,可以配置将截图图像转存到您的OSS存储桶中。 说明 系统默认会将文档截图后的图片临时存储30分钟并通过API接口返回临时链接地址。 | |
如您对于近期检测的文档,有进一步细节查看和分析的需求,可以通过结果查询页面查看或搜索。 | |
如您有统计和查看近期文档检测量级的需求,可以通过用量统计页面实现。 |
开通服务
访问内容审核增强版页面,开通文档审核增强版服务。
开通文档审核增强版服务前,请先了解文档审核增强版的计费规则。
调整风险检测策略
根据行业常见特性或自身业务所需,对检测的范围和结果返回方式进行调整,以满足业务要求。
登录内容安全控制台。
在左侧导航栏,选择
。在规则配置页面,单击通用文档检测(document_detection)服务操作列设置规则。
在通用文档检测服务规则配置页面,根据业务需要调整相关配置。
为多个业务设置差异化策略
根据不同业务的需求,对同一个服务(service)进行复制并设置不同的风险检测策略,以满足业务差异化的审核需求。
登录内容安全控制台。
在左侧导航栏,选择
。在规则管理页面,对需要设置不同检测范围的服务(service)进行复制。
在service列表,单击通用文档检测服务(document_detection)操作列复制按钮。
在复制Service对话框,填写服务名称和服务备注信息。
单击确定。创建成功之后,单击新创建服务(document_detection_01)操作列设置规则,根据业务需要调整规则配置。
新服务(document_detection_01)在创建成功后1~2分钟即可调用。您可以复制出多个服务(service),通过对不同服务(service)的规则进行调整,满足您差异化的风险检测场景需求。
将文档截图后的图片进行转存
对于文档截图后的图片,可以设置保存到您自己的OSS存储桶中,以便于长期存储截图证据图片。
登录内容安全控制台。
在左侧导航栏,选择
。在规则配置页面,单击需要配置的service服务操作列设置规则,此处以通用文档检测(document_detection)服务为例。
在通用文档检测(document_detection)服务规则配置页面,选择结果处理配置tab页。
示例:希望将文档截图后的图片转存到OSS存储桶的test文件夹下,转存所有截图结果,配置如下:
打开是否转存开关(初次打开时需要进行OSS授权),选择转存的bucket,输入转存目录,设置访问链接有效期和转存范围。
单击保存,保存证据转存配置。
新配置的检测规则约2~5分钟生效。
查询详细检测结果
对于检测的文档,支持根据taskId、dataId、图像标签、文本标签查询文档详细检测结果。
登录内容安全控制台。
在左侧导航栏,选择
。在结果查询页面,输入查询条件查询检测结果。
如果希望搜索所有命中标签的记录,则设置查询条件为图像标签不等于nonLabel。支持同时设置多个标签,使用半角逗号(,)分隔。
说明默认按照时间由近及远的顺序展示,最多展示5万条数据。内容安全控制台提供近30天内的结果查询,建议您对调用接口的每次返回做数据或日志存储,以便于更长时间周期的数据分析和统计。
单击目标结果操作列详情,查看文档审核的详细信息。
单击目标结果操作列的文档页结果,查看文档页图像和文本的详细审核结果。
统计检测用量
查看近期文档检测量级,制定进一步的审核或治理措施。
登录内容安全控制台。
在左侧导航栏,选择
。在用量统计页面,选择时间段查询用量或导出用量情况。
查询用量:支持按天和按月统计用量情况,统计数据保存一年,支持查询跨度为两个月的数据。
导出用量:单击图标,可以按天或者按月导出用量情况。导出的报表是Excel格式,只包含有调用量的数据。