文本审核增强版服务通过升级内容安全核心引擎,采用动态策略和模型强化变异对抗性,提供多种业务场景的审核服务,识别出多种违规风险。本文介绍如何使用文本审核增强版。
功能特性
与旧版文本检测服务相比较,文本审核增强版服务支持更多的功能,并支持业务自定义规则,为您提供更全面的内容安全保障。
匹配业务场景
文本审核增强版服务支持匹配多种业务场景,为您简化业务接入和选择模型的工作,扩大合规风险覆盖的范围。您可根据需要的业务场景选择对应的服务。
服务 service | 常用业务场景 | 场景特性说明 |
---|---|---|
nickname_detection | 用户昵称、公众号名称、直播间标题等 | 侧重识别底线违规类、仿冒官方、禁限引流风险,可辅助治理虚假账号。 |
chat_detection | 用户间聊天互动 | 在平衡用户体验基础上,主要识别底线违规类、辱骂网暴等风险。 |
comment_detection | 评论、弹幕、公聊、转发等 | 通常风险率高、风险类型多、变形变异强,识别底线违规类、广告导流、禁限内容等风险。 |
pgc_detection | 教学材料、课件内容、课程题目等 | 通常风险率低,精确检测底线类风险。 |
ai_art_detection | AIGC的文字指令、聊天机器人等 | 兼容中英文本,侧重识别底违规类和负面内容。 |
ad_compliance_detection | 商品素材、广告文案 | 识别疑似违反广告法规,包括极限词、行业禁限、红线违规等风险。 |
增强变异对抗
采用动态策略和模型引擎,强化内容对抗性,能够识别更多内容变形变异情况下的违规风险。检测能力包含但不限于如下所示:
对抗方式 | 原内容 | 变形后 | 旧版文本检测 | 文本审核增强版 |
---|---|---|---|---|
简繁体 | 阿里云 | 阿裏雲 | 支持 | 支持 |
大小写 | abcdefg | AbcdEFG | 支持 | 支持 |
特殊字符 | 825394007304 | ȣᒿƼᗱ୨丩૦ǪךȝᴏЧ | 部分支持 | 支持 |
表情符号 | 禁止 | ![]() | 不支持 | 支持 |
拼音混合 | 阿里云内容风控 | a里yun内容feng控 | 部分支持 | 支持 |
同音字 | 阿里云 | 啊鲤云 | 不支持 | 支持 |
形近字 | 东 | 冻、栋、岽 | 部分支持 | 支持 |
中文拆字 | 近 | 辶斤 | 部分支持 | 支持 |
文字变序 | 阿里云 | 云里阿、阿云里 | 部分支持 | 支持 |
文字间隔 | 阿里云 | 阿★*里|云 | 部分支持 | 支持 |
丰富审核标签
支持更丰富的审核标签,以及更详细的原因定位。如果内容存在多类风险,能够同时返回多个标签。标签分类包括但不限于如下所示:
标签类型 | 分类 |
---|---|
一级标签(labels) |
|
细分标签(riskTips) | 支持一级标签细化为更细粒度的标签,可用于定位具体原因。关于细分标签类型需联系运营人员。 |
计费说明
文本审核增强版服务支持按量后付费和资源包抵扣两种付费方式。
按量后付费
当您开通文本审核增强版服务后,默认付费方式是按量后付费,且按照实际用量结算当日费用,不调用服务不收费。更多内容,请参见开通内容审核增强版服务。
审核类型 | 支持的业务场景(服务) | 计费单价 |
---|---|---|
文本审核通用(text_standard) |
| 7.5元/万次 |
资源包抵扣
如果您的审核量较大,或有相对固定的审核需求,建议预先购买资源包的方式。购买资源包规格越大,享受越低折扣,支持叠加购买和使用。更多内容,请参见购买内容审核增强版抵扣资源包。
该资源包用于内容审核增强版用量的抵扣,无法与内容安全流量包共享,具体的抵扣系数如下:
审核类型 | 支持的业务场景(服务) | 抵扣系数 |
---|---|---|
文本审核通用(text_standard) |
| 抵扣系数为1,表示每成功调用一次接口,抵扣资源包的流量包容量规格1次。 例如购买的资源包的流量包容量规格为10次,当您成功调用1次接口,抵扣流量包容量规格1次,剩余9次。 |
步骤一:开通服务
在正式使用文本审核增强版功能之前,需要先开通服务。
- 访问内容审核增强版购买页,仔细阅读并选中服务协议。
- 单击立即开通。
步骤二:配置审核规则
文本审核增强版为您内置了一套文本审核的标签,主要包含广告、涉政、辱骂、违禁品、色情、暴恐、灌水、垃圾信息、不良场景、网络暴力。如果内置标签无法满足您的业务需求,可以自定义词库,设置有风险的违规关键词或者在检测文本前需要过滤掉的关键词,然后配置匹配关键词的规则。
- 登录内容安全控制台。
- 在左侧导航栏,选择 。
- 配置词库。
- 配置规则。规则配置完成后,会在3分钟后生效,请您耐心等待。
步骤三:接入文本审核增强版
- 调用API接入服务。具体操作,请参见文本审核增强版API。
- 使用SDK接入服务。具体操作,请参见文本审核增强版接入指南。
步骤四:查看审核结果
你可以通过查看审核的结果,分析审核文本中高频的违规类型。
- 登录内容安全控制台。
- 在左侧导航栏,选择 。
- 在结果查询页面,查看审核的文本、命中的标签及请求时间。您可以设置查询时间范围、请求ID、文本、标签搜索待查询的信息。支持查询30天以内的数据,结果查询页面最多可以保存5万条数据,如果您有更高的存储需求,在调用API后需要您自行保存返回结果。
- 定位到某条文本内容,单击右侧操作列的查看。
- 在查看详情面板,查看该条文本内容被审核的详细信息。
步骤五:统计用量
统计调用量数据,帮助您了解近期的文本审核增强版的调用量。
- 在左侧导航栏,选择 。
- 在用量统计页面,查看文本审核的调用量。您可以自定义查询时间范围,支持最近的365天内的调用量。您也可以单击按天、按月查询,按天默认显示最近的30天内每天的调用量,按月默认显示最近12个月内每个月的调用量。
单击
图标,下载用量统计数据。