本文汇总了使用内容检测API时常见的识别效果问题。

为什么正常文本内容被识别为辱骂违规?为什么文本检测没有识别出辱骂内容?

文本检测的辱骂根据严重程度可以分为:严重辱骂、轻微辱骂和口头语三类。 您可以在控制台中对业务场景文本机审标准进行调整。针对特定文本内容未识别出来或者误识别的情况,建议您优先添加自定义相似文本库或者关键词库,通过忽略名单或疑似白名单解决该问题。

更多信息,请参见自定义机审标准自定义文本库

为什么正常文本内容被识别为色情违规?为什么文本检测没有识别出色情内容?

文本检测的色情根据严重程度可以分为:严重色情、低俗内涵和性知识三类。您可以在控制台中对业务场景文本机审标准进行调整。针对特定文本内容未识别出来或者误识别的情况,建议您优先添加自定义相似文本库或者关键词库,通过忽略名单或白名单解决该问题。

更多信息,请参见自定义机审标准自定义文本库

为什么文本检测无法识别出二维码等关键词?

文本检测的广告场景包含:电话号码、微信、QQ、URL、广告语等不同分类。您可以在控制台中对业务场景的文本机审标准进行调整。针对特定文本内容未识别出来的情况,建议您优先添加自定义相似文本库或者关键词库,通过设置黑名单或者疑似名单解决该问题。

更多信息,请参见自定义机审标准自定义文本库

为什么内容安全图片审核色情图片没有被识别出来?

图片审核的色情场景根据尺度分为:纯色情、低俗不雅和性感暴露三类。您可以在控制台中对业务场景的图片机审标准进行调整。针对特定图片未识别出来的情况,建议您优先添加自定义图库,选择鉴黄场景,通过设置黑名单或者疑似名单解决该问题。

更多信息,请参见自定义机审标准自定义文本库

为什么内容安全文本关键词加了白名单,还是被识别违规block?

添加自定义文本库不生效的情况可能有几种:

  • 添加的关键词会在大约15分钟内生效,建议稍后再试。
  • 请确认下文本库的使用方式:
    • 如果是5个字符及以下建议使用关键词进行管控,匹配方式选择模糊匹配
    • 如果是5字符以上建议使用相似文本库进行管控,匹配方式选择精准匹配
  • 需要应用文本库到对应的业务场景(Biztype)才能够生效。

更多信息,请参见自定义文本库

为什么内容安全图片审核国旗国徽等内容没有被拦截?

图片审核提供几类检测场景:鉴黄、涉政暴恐、图文违规和不良场景。如果您需要拦截国旗国徽等内容,请使用涉政暴恐的检测场景,并在控制台中对业务场景的图片机审标准进行调整。涉政暴恐场景能够识别几类内容:人物、标识、军械、事件、宗教、公务和票证内容,请选择标识识别分类中的国旗和徽章。同时,您需要在内容安全API中指定涉政暴恐的检测场景。

更多信息,请参见自定义机审标准同步检测

如何处理医学场景下部分人体图片被内容安全识别为色情违规?

内容安全图片审核的鉴黄识别是无法区分是否属于医学场景的,建议您针对这类医学场景上传的图片通过标识业务数据(dataId)来区分,对图片审核结果进行二次人工审核。

更多信息,请参见同步检测