本文汇总了关于内容安全服务功能相关的常见问题。

内容安全用户提交的图片、视频、文本等信息,审核后是否会删除?

使用内容安全API提交审核的图片、视频、文本及机器审核的结果数据,系统会自动为您保留7天以便您查询,超过7天后会删除相关数据。使用内容安全API提交审核的直播流、语音流,审核过程产生切片的临时地址有效时间为30分钟,超过30分钟后地址将失效并删除相关切片。

使用内容安全服务的用户需要及时转存审核结果和切片信息,如果用户开通了阿里云对象存储OSS,推荐开启证据转存功能。

内容安全有哪些功能特性?

内容安全提供内容检测API、OSS违规检测功能,每个功能适用于多种场景。

更多信息,请参见功能特性

什么是内容安全自定义文本库?

为了使检测结果更贴合您的实际业务,内容安全也支持自定义文本库,支持多种类型的文本库。

更多信息,请参见自定义文本库

能否自定义内容安全图片违规的配置?

可以。为了使检测结果更贴合您的实际业务,内容安全也支持自定义图库。

更多信息,请参见自定义图库

如何设置内容安全的自助审核功能?

内容安全控制台中呈现了内容检测API检测出的数据结果。针对您的业务场景,您可以对机器的检测结果进行二次审核。

更多信息,请参见自助审核

为什么内容安全自定义文本库设置后不生效?

自定义文本库提供关键词和相似文本两种类型,匹配方式支持精确匹配和模糊匹配,请对照自定义文本库使用限制,查看是否符合使用限制,比如相似文本需要超过10个字符。如果您是内容安全API的场景中使用自定义文本库,需要将文本库应用到对应的业务场景(Biztype)中才能生效。

关于自定义文本库的使用方式,请参见自定义文本库

内容安全能否识别错别字或者语法错误?

内容安全无法识别错别字和语法错误。

内容安全检测涉政范围是什么?

内容安全图片涉政暴恐场景包括血腥、爆炸烟光、特殊装束、特殊标识、武器、涉政、打斗、聚众、游行、车祸现场、旗帜、地标等细分场景。在实际使用时,您可以使用内容安全的自定义机审标准功能来定义您的业务检测范围。

更多信息,请参见自定义机审标准

内容安全发现违规,是否可以保留违规证据?

使用内容安全API时,若您希望保存机审识别的结果证据,您可以开启证据转存功能。证据转存与阿里云对象存储OSS配合使用,支持将视频、语音、图片检测中识别到的违规、疑似、正常内容转存到您指定的OSS存储空间,并返回转存文件的OSS URL链接。

更多信息,请参见检测结果

本地图片、视频、语音文件如何进行内容安全检测?

强烈建议您使用阿里云对象存储OSS服务,将本地文件存储在云上存储空间,获取公网可以访问的URL后再提交内容检测。

更多信息,请参见什么是对象存储OSS

内容安全图片的检测分值表示什么?

检测分值Rate不建议在业务中使用,您可以参考Suggestion和Label结果用于内容违规判定。检测分值仅代表内容安全模型判断的置信度,与图片存在的风险程度无关。

关于参数的使用说明,请参见同步检测

内容安全自定义词库能否导出?

内容安全控制台上支持自定义词库批量导出关键词。

更多信息,请参见自定义文本库

内容安全后台自助审核生效时间?

内容安全控制台支持对机器检测结果进行自助审核,审核结果是实时生效的,其中图像、文本的自助审核结果会自动回流入风险样本库,样本库新增大约需要15分钟时间生效。

更多信息,请参见自助审核

内容安全自定义图库和词库多久生效?

内容安全支持自定义图库,您可以使用自定义图库来管理需要针对性地拦截、放行的图片,在图库中新增、删除图片样本,大约需要15分钟生效。内容安全也支持自定义文本库,您可以使用自定义文本库来管理需要针对性地拦截、忽略文本,在文本库中新增、删除相似文本和关键词,大约需要15分钟生效。

更多信息,请参见自定义文本库

内容安全图片审核会对图片进行自动冻结吗?

内容安全不会自动冻结。阿里云内容安全服务只进行检测并将检测结果反馈给用户,不会查看用户数据,更不会对用户数据做任何处理。 如果您希望对检测违规图片进行冻结处理,建议使用OSS违规检测,并开启OSS违规检测的冻结功能。

更多信息,请参见创建存量扫描任务

内容安全配置回调地址后,没有收到回调请求?

内容安全API和OSS违规检测均支持回调通知,在内容安全控制台中创建消息通知,选择需要通知的消息类型,包括机器审核结果、自助或者人工审核结果,创建后需要关联到业务场景(Biztype)才能够生效。

如果您已经正确设置了消息通知,但是调用内容安全后却没有收到回调,建议检查回调地址是否能够响应POST请求,避免请求回调地址时出现403或者502等错误。 回调通知也可以通过API参数Callback输入,启用回调通知后,内容安全将按照回调配置发送内容检测API回调通知。

更多信息,请参见配置消息通知

使用OSS增量扫描,没有回调配置的通知地址?

内容检测API和OSS违规检测均支持回调通知,如果您已经正确设置了消息通知,但是调用内容安全后却没有收到回调,建议检查回调地址是否能够响应POST请求,避免请求回调地址时出现403或者502等错误。

关于OSS违规检测回调通知,请参见配置消息通知

内容安全图片审核,长图添加到自定义图库不生效?

内容安全图片审核有长图限制,对长图(高大于400像素,高宽比大于2.5)会进行切割后再检测,因此添加到自定义图库或者回流库中的长图无法匹配切割后的检测图片,无法生效。

关于长图检测的参数intervalmaxframes的说明,请参见同步检测

内容安全控制台中自定义机审标准后,检测API没有生效?

内容安全控制台中配置自定义机审标准,或者添加自定义样本库后,需要大约15分钟时间生效,建议稍后重试。配置自定义业务场景后,您必须在内容检测API的接口中传递自定义业务场景(Biztype),检测才会按照自定义业务场景的标准进行。

更多信息,请参见自定义机审标准

如何接入内容安全内网地址?

当您部署服务的阿里云ECS和内容安全的Endpoint在同一个地域时,就可以接入内网地址。

例如您的ECS部署在北京,内容安全的Endpoint包含北京,则可以通过内网地址green-vpc.cn-beijing.aliyuncs.com接入。内网地址接入相比公网地址接入,耗时会有一定程度的降低。但是,如果ECS没有与内容安全部署在同一地域,就不能使用内网地址接入,只能使用公网方式接入。

关于内容安全的接入地址,请参见接入地址(Endpoint)