本文汇总了使用内容检测API时常见的识别效果问题。
- 为什么正常文本内容被识别为辱骂违规？为什么文本检测没有识别出辱骂内容？
- 为什么正常文本内容被识别为色情违规？为什么文本检测没有识别出色情内容？
- 为什么文本检测无法识别出二维码等关键词？
- 为什么内容安全图片审核色情图片没有被识别出来？
- 为什么文本关键词加了白名单，还是被识别违规block？
- 为什么内容安全图片审核国旗国徽等内容没有被拦截？
- 如何处理医学场景下部分人体图片被内容安全识别为色情违规？
- 为什么内容安全检测结果不稳定或白名单/人工矫正后仍被拦截？
- 为什么内容安全无法检测中间有间隔或长文本掺杂的违规内容？
- 为什么内容安全返回了违规标签（如 political_a）但未指明具体违规内容？
- 为什么关闭了涉政（political_a）等特定检测范围后仍被拦截，或正常文本被误判为敏感信息？
- AI安全护栏未拦截提示词攻击、医疗建议或版权侵权等风险怎么办？
- 为什么文本检测返回的命中词（riskWords）简繁体与原文不一致？
为什么正常文本内容被识别为辱骂违规？为什么文本检测没有识别出辱骂内容？
文本检测的辱骂根据严重程度可以分为：严重辱骂、轻微辱骂和口头语三类。 您可以在控制台中对业务场景文本机审标准进行调整。针对特定文本内容未识别出来或者误识别的情况，建议您优先添加自定义相似文本库或者关键词库，通过忽略名单或疑似白名单解决该问题。
为什么正常文本内容被识别为色情违规？为什么文本检测没有识别出色情内容？
文本检测的色情根据严重程度可以分为：严重色情、低俗内涵和性知识三类。您可以在控制台中对业务场景文本机审标准进行调整。针对特定文本内容未识别出来或者误识别的情况，建议您优先添加自定义相似文本库或者关键词库，通过忽略名单或白名单解决该问题。
为什么文本检测无法识别出二维码等关键词？
文本检测的广告场景包含：电话号码、微信、QQ、URL、广告语等不同分类。您可以在控制台中对业务场景的文本机审标准进行调整。针对特定文本内容未识别出来的情况，建议您优先添加自定义相似文本库或者关键词库，通过设置黑名单或者疑似名单解决该问题。
为什么内容安全图片审核色情图片没有被识别出来？
图片审核的色情场景根据尺度分为：纯色情、低俗不雅和性感暴露三类。您可以在控制台中对业务场景的图片机审标准进行调整。针对特定图片未识别出来的情况，建议您优先添加自定义图库，选择鉴黄场景，通过设置黑名单或者疑似名单解决该问题。
为什么文本关键词加了白名单，还是被识别违规block？
添加自定义文本库不生效的情况可能有几种：
- 添加的关键词会在大约15分钟内生效，建议稍后再试。
- 请确认下文本库的使用方式：
- 如果是5个字符及以下建议使用关键词进行管控，匹配方式选择先转换再匹配。
- 如果是5个字符以上建议使用相似文本进行管控。
- 需要应用文本库到对应的业务场景（Biztype）才能够生效。
更多信息，请参见自定义文本库。
为什么内容安全图片审核国旗国徽等内容没有被拦截？
图片审核提供几类检测场景：鉴黄、涉政暴恐、图文违规和不良场景。如果您需要拦截国旗国徽等内容，请使用涉政暴恐的检测场景，并在控制台中对业务场景的图片机审标准进行调整。涉政暴恐场景能够识别几类内容：人物、标识、军械、事件、宗教、公务和票证内容，请选择标识识别分类中的国旗和徽章。同时，您需要在内容安全API中指定涉政暴恐的检测场景。
如何处理医学场景下部分人体图片被内容安全识别为色情违规？
内容安全图片审核的鉴黄识别是无法区分是否属于医学场景的，建议您针对这类医学场景上传的图片通过检测对象对应的数据ID（dataId，用于图片同步检测接口和图片人工审核接口）来区分，对图片审核结果进行二次人工审核。
为什么内容安全检测结果不稳定或白名单/人工矫正后仍被拦截？
内容安全检测结果出现不稳定或配置未生效的情况，可能有以下几种原因，请根据您的实际场景参考对应处理方法。
场景一：白名单或人工矫正不生效
白名单配置（如自定义图库或关键词库）完成添加后，通常需要约 15 分钟完成数据同步才能生效。人工矫正标注后同样存在同步延迟。
若确认配置正确且等待超过 15 分钟后仍未生效，或人工矫正标注后同一图片再次上传仍被拦截，可能存在后端配置异常。建议您提供对应请求的 RequestID，联系技术支持排查。
此外，您也可以考虑升级至内容安全增强版，通过自定义规则实现更精准的检测控制。
场景二：同一图片检测结果不一致（概率性通过/不通过）
同一图片多次检测结果不一致，可能由后端检测策略动态调整或模型优化导致。建议您重新调用检测接口，再次上传该图片验证。若问题持续出现，请提供最新的 RequestID，以便后端核查。
场景三：特定 RequestID 漏报或误报
特定内容出现漏报（应拦截但未拦截）或误报（正常内容被识别为涉政、色情、毒品等违规内容），可能是命中了敏感时期专项策略、模型识别偏差或后台配置问题所致。建议您重新测试该内容。若问题仍然存在，请提供最新的 RequestID，由后端团队调优策略或模型。
为什么内容安全无法检测中间有间隔或长文本掺杂的违规内容？
违规内容经过变形处理，或夹杂在长文本中时可能未被命中，请按以下场景排查。
场景一：违规词中间夹杂数字、字母、特殊字符或分隔符
请在风险库管理 > 自定义文本库中，把业务中实际出现的变形写法作为关键词补充进自定义文本库，并将匹配方式设置为先转换再匹配。选择该匹配方式后，系统会先把检测文本中的繁体内容转换为简体、大写字母转换为小写字母、数字符号转换为纯数字，再进行匹配；选择精确匹配时，只有文本中出现与库中完全一致的词才会命中。
自定义文本库的使用方式（5 个字符及以下用关键词、5 个字符以上用相似文本，以及需要应用到对应业务场景 Biztype）与生效时间，请见本页为什么文本关键词加了白名单，还是被识别违规block？
场景二：违规内容掺杂在长文本中
长文本（20 个字以上）建议使用相似文本管控，系统会采用相似算法进行匹配，比关键词更适合识别掺杂在长段落中的违规表达。
场景三：调整配置后仍然漏检
规则配置的修改对生产环境生效通常需要 2~5 分钟，请等待生效后重新调用检测接口复测。若确认词库与规则配置均已正确、生效时间已过仍存在漏检，请提交工单并提供该次请求的 RequestID，由技术支持排查检测策略。
场景四：需要识别图片中的文字类违规内容
图片中的文字属于单独的检测范围，请在图片审核 > 规则配置 > 审核范围配置中确认当前所用服务是否包含图中文字类细分检测范围（这类标签的检测对象是图片中的文字，选配的是词库而非图库），并将检测状态置为开启。确认后可在在线测试中提交图片，在补充信息中勾选文字信息，查看图片中文字的识别结果。
为什么内容安全返回了违规标签（如 political_a）但未指明具体违规内容？
标签含义
political_a 是涉政场景下的二级标签，在控制台中的含义为“涉政专项升级保障”，细分检测范围为“特定时间节点上线的涉政专项保障策略”。这类专项标签还包括 political_accidents（疑似命中政治专项策略）、project_specialGuard（专项保障检测）、political_incident_Hx（涉政_Hx 专项升级，Hx 为专项代号）等。可以在文本审核的规则配置中通过行操作查看标签（增强版为管理检测规则）查看每个标签值的含义与细分检测范围。
为什么返回结果中可能没有具体命中内容
不同检测对象返回的信息粒度本身不同：风险关键词（riskWords）作为独立展示项只出现在文档检测结果的详情中，文本检测的结果详情展示的是命中标签与完整的返回结果。因此部分标签只返回标签值、不返回具体命中片段属于正常现象，不影响该次检测的风险等级判定。
如何查看与反馈
在结果查询中打开目标记录的详情，可以看到该次请求的 RequestID、Service、风险等级、命中标签以及可复制的完整返回结果，用于确认究竟命中了哪些标签。若该标签影响了正常业务且确认内容不存在违规，请在该记录的反馈结果中选择未违规误报提交反馈；需要进一步核查时，请提交工单并提供该次请求的 RequestID，由技术支持排查。
同一内容多次检测结果不一致、或白名单与人工矫正未生效时的处理方法，请见本页为什么内容安全检测结果不稳定或白名单/人工矫正后仍被拦截？
为什么关闭了涉政（political_a）等特定检测范围后仍被拦截，或正常文本被误判为敏感信息？
已关闭却仍被拦截
请按以下三种原因逐项确认。
配置尚未生效：规则配置的修改对生产环境生效通常需要 2~5 分钟，请等待生效后重新调用接口复测。
该细分检测范围属于红线管控内容，无法自行关闭：在文本审核的规则配置中，部分细分检测范围的检测状态不允许修改，界面提示为“该项检测为红线管控内容，不可关闭，如有效果问题需要调优，请联系我们！”。不可关闭的范围由后台按所使用的服务（Service）下发，不同服务不同，请以该行的检测状态能否修改为准；确有调优需求时，请提交工单并提供该次请求的 RequestID，由技术支持评估。
同时命中了其他高风险标签：风险等级由命中的标签及其风险分共同决定，命中标签且分值落在高风险分区间时会返回高风险等级。若关闭某个检测范围后仍返回高风险，请在结果查询的记录详情中查看命中标签与完整返回结果，确认是否命中了其他仍处于开启状态的标签。
正常文本被误判（例如日期“六月三号”被判为涉政高风险）
控制台不提供针对单条误判结果的修正入口，无需在业务侧做额外设置。请在结果查询中找到该条记录，在反馈结果中选择未违规误报提交反馈；若影响业务，请提交工单并提供该次请求的 RequestID，由技术支持排查后优化检测策略，之后关注同类内容的检测结果即可。对反复出现误判的固定文案，也可以在风险库管理 > 自定义文本库中加入白名单类文本库规避。
按 RequestID 排查漏报与误报的完整流程，请见本页为什么内容安全检测结果不稳定或白名单/人工矫正后仍被拦截？
AI安全护栏未拦截提示词攻击、医疗建议或版权侵权等风险怎么办？
本条适用于AI安全护栏的模型防护。相关配置位于AI安全护栏控制台的防护配置 > 模型防护，单击目标服务所在行的配置管理即可进入该服务的检测项配置页面。
1. 确认相应检测项已开启
模型防护的检测项按防护维度、检测Agent中心、数据处置三组展示，文本类检测项共 11 项：内容合规、敏感内容、提示词攻击、恶意URL、模型幻觉、恶意文件、数字水印标识、自定义脱敏、自定义检测Agent、知名IP检测Agent、脱敏数据还原。其中内容合规、提示词攻击、敏感内容至少需要启用一项。
医疗建议与版权侵权没有对应的独立检测项，相关语义包含在其他检测项的细分标签中：
版权、知识产权、商业秘密相关语义位于敏感内容的细分标签中（例如“疑似侵犯商业版权”）。
医疗、药品、医疗器械相关语义位于内容合规的广告合规细分标签中（例如“非医疗、药品、医疗器械的商品涉及疾病治疗功能，或使用医疗用语”）。
因此排查这两类风险时，请确认敏感内容与内容合规检测项已开启，并在其配置页中确认对应细分标签处于开启状态。
2. 调高相应风险的检测强度
不同检测项可调整的项目不同：
检测项 | 可调整的项目 | 取值 |
内容合规、提示词攻击、恶意URL、恶意文件 | 低风险分、中风险分、高风险分、检测状态 | 低风险分 0~（中风险分-0.01）；中风险分 0.01~（高风险分-0.01）；高风险分（中风险分+0.01）~100.00。默认高 85、中 60、低 0，可单击恢复默认分值还原 |
敏感内容 | 标签等级、处置方式 | 标签等级 S0、S1、S2、S3；处置方式 观察、脱敏、阻断；也可单击启用推荐配置方案 |
模型幻觉 | 幻觉检测程度 | 60~100，默认 60，模型返回分数超过设定值即判定为幻觉 |
命中标签且分值落在高风险分区间时会返回高风险等级，因此漏拦截时可适当下调高风险分，让更多命中结果进入高风险区间。
3. 用自定义能力覆盖基线未识别的场景
新型攻击手法或强业务属性的风险，可使用自定义提示词：在检测项配置页的配置自定义提示词中填写审核标签与对应的检测描述（检测标签不可为空、不可重复，仅支持汉字、英文、数字、下划线和常见标点），单击测试验证效果后单击发布，发布后线上生效通常需要 2~5 分钟。部分地域不提供该检测项。
有明确黑名单词的场景，可在知识库管理 > 词库管理中单击目标词库的管理，进入关键词库管理添加关键词。关键词支持批量添加词或上传文档导入（仅支持 UTF-8 编码的 TXT 文件），每行一个词、单次最多 1000 行；单个账号最多 10 万个关键词、20 个词库，更新后生效约 5 分钟。词库设置仅对内容合规检测项生效。
4. 反馈漏拦截的样本
在结果查询中找到漏拦截的记录，在反馈结果中选择违规漏过提交反馈，提交成功后界面提示“反馈成功”。
5. 通过检测日志确认是否触发对应检测项
在AI安全护栏控制台的日志分析 > 模型防护页签中（日志分析需单独开通），可以按 RequestID、Service、Suggestion（建议阻断、建议通过、建议观察、建议脱敏）以及防护维度（内容合规、敏感内容、模型幻觉、提示词攻击、恶意URL、数字水印标识、恶意文件、自定义检测Agent）筛选日志，确认该次请求是否触发了目标检测项、以及返回了哪些标签。日志分析不提供检测置信度或分数字段，若日志显示未触发目标检测项，请回到第 1 步确认检测项与细分标签的开启状态；若已触发但建议为通过或观察，请按第 2 步调整风险分或处置方式。
按上述步骤仍无法拦截时，请提交工单并提供该次请求的 RequestID，由技术支持排查。
为什么文本检测返回的命中词（riskWords）简繁体与原文不一致？
文本检测返回结果中的命中词字段为 riskWords，在控制台中对应的展示项为风险关键词。
命中词的字形与匹配方式有关。在风险库管理 > 自定义文本库中将匹配方式设置为先转换再匹配时，系统会先把检测文本中的繁体内容转换为简体、大写字母转换为小写字母、数字符号转换为纯数字，再与词库中的词进行匹配。因此返回的命中词是词库中存储的写法，可能与提交的原文字形不完全一致。这属于正常现象，不影响该次检测的违规判定与风险等级。
如需核对具体命中了哪些词，请在结果查询中打开该条记录的详情，查看命中标签与完整的返回结果；文档检测的结果详情中还会单独展示风险关键词。若需要严格按原文字形命中，请将匹配方式改为精确匹配，并在自定义文本库中按原文字形补充关键词。