文本审核服务在决策引擎中的应用

文本审核增强版支持在决策引擎服务中集成,通过决策引擎服务透传内容安全检测结果,降低您业务的对接成本。本文介绍如何在决策引擎中应用文本审核服务。

支持的业务场景

当前决策引擎服务集成了2项常用的内容安全文本审核服务,即nickname_detection和comment_detection。

服务类别

业务场景

场景特性说明

决策引擎中集成的变量

变量对应的key值

nickname_detection

适用于用户昵称、公众号名称、直播间标题等。

侧重识别底线违规类、仿冒官方、禁限引流风险,可辅助治理虚假账号。

文本审核_增强版_用户昵称_标签

labels

文本审核_增强版_用户昵称_细分标签

riskTips

文本审核_增强版_用户昵称_命中广告号

adNums

文本审核_增强版_用户昵称_命中风险片段

riskWords

comment_detection

适用于评论、弹幕、公聊、转发等。

通常风险率高、风险类型多、变形变异强,识别底线违规类、广告导流、禁限内容等风险。

文本审核_增强版_公聊评论_标签

labels

文本审核_增强版_公聊评论_细分标签

riskTips

文本审核_增强版_公聊评论_命中广告号

adNums

文本审核_增强版_公聊评论_命中风险片段

riskWords

应用场景

您可以通过决策引擎配置内容安全变量,对检测的范围和风险检测的细分维度进行调整,以满足业务要求。您也可以将内容安全服务返回的标签转化为主体(即账号、设备、IP等)维度的风险特征进行防控,以提升主体的准确率和效率。

应用场景

说明

内容安全文本审核服务在决策引擎中的应用

如果您已经完成决策引擎对接,则无需再次对接内容安全接口,可通过决策引擎直接进行内容安全检测。

内容安全文本审核服务在决策引擎中的应用

您可以根据行业常见特性或自身业务所需,对检测的范围和风险检测的细分维度进行调整。

例如,您的业务中存在较多广告引流问题,尤其是广告_引流手机号、广告_引流类最严重。您希望对命中以上细项标签的文本返回结果,可以通过配置策略实现这一功能。

将文本维度的风险转化为账号维度的风险特征

您可以将文本维度的风险转化为主体维度(即账号、设备、IP等)的风险,提升结果处理的准确率及效率。

例如,对于每个账号发送的广告类消息有一定容忍度,但超过限度则进行处罚。

相关文档

关于三种场景的具体操作,请参见内容安全文本审核服务在决策引擎中的应用