文本审核增强版支持在决策引擎服务中集成,通过决策引擎服务透传内容安全检测结果,降低您业务的对接成本。本文介绍如何在决策引擎中应用文本审核服务。
支持的业务场景
当前决策引擎服务集成了2项常用的内容安全文本审核服务,即nickname_detection和comment_detection。
服务类别 | 业务场景 | 场景特性说明 | 决策引擎中集成的变量 | 变量对应的key值 |
nickname_detection | 适用于用户昵称、公众号名称、直播间标题等。 | 侧重识别底线违规类、仿冒官方、禁限引流风险,可辅助治理虚假账号。 | 文本审核_增强版_用户昵称_标签 | labels |
文本审核_增强版_用户昵称_细分标签 | riskTips | |||
文本审核_增强版_用户昵称_命中广告号 | adNums | |||
文本审核_增强版_用户昵称_命中风险片段 | riskWords | |||
comment_detection | 适用于评论、弹幕、公聊、转发等。 | 通常风险率高、风险类型多、变形变异强,识别底线违规类、广告导流、禁限内容等风险。 | 文本审核_增强版_公聊评论_标签 | labels |
文本审核_增强版_公聊评论_细分标签 | riskTips | |||
文本审核_增强版_公聊评论_命中广告号 | adNums | |||
文本审核_增强版_公聊评论_命中风险片段 | riskWords |
应用场景
您可以通过决策引擎配置内容安全变量,对检测的范围和风险检测的细分维度进行调整,以满足业务要求。您也可以将内容安全服务返回的标签转化为主体(即账号、设备、IP等)维度的风险特征进行防控,以提升主体的准确率和效率。
应用场景 | 说明 |
如果您已经完成决策引擎对接,则无需再次对接内容安全接口,可通过决策引擎直接进行内容安全检测。 | |
您可以根据行业常见特性或自身业务所需,对检测的范围和风险检测的细分维度进行调整。 例如,您的业务中存在较多广告引流问题,尤其是广告_引流手机号、广告_引流类最严重。您希望对命中以上细项标签的文本返回结果,可以通过配置策略实现这一功能。 | |
您可以将文本维度的风险转化为主体维度(即账号、设备、IP等)的风险,提升结果处理的准确率及效率。 例如,对于每个账号发送的广告类消息有一定容忍度,但超过限度则进行处罚。 |
相关文档
关于三种场景的具体操作,请参见内容安全文本审核服务在决策引擎中的应用。