在使用内容检测API过程中,如果您发现内容安全的算法结果在您的业务中被认为是不符合预期的,您可以通过反馈接口将样本回流给我们。

如果您有自己的审核平台,您可以直接对接反馈接口,将审核后认为识别有误的样本回流给我们。在收到您的反馈后,我们会在下个版本的模型迭代中将您的反馈数据加入训练。训练后的模型对您的业务场景更具有适应性。

样本反馈目前支持图片样本反馈视频样本反馈,和文本样本反馈,具体使用方式请参考文档说明。

自动加入自定义图库

模型训练需要积累足够的样本,因此可能无法立即生效。如果有需要,您可以开启自动加入自定义图库功能,实时纠正结果。

针对图片样本的反馈,您可以在内容安全控制台直接管理回流图像库。操作方法类似其他自定义图库,但是不支持创建与删除回流图像库。关于自定义图库的操作方法,请参考自定义图库

在反馈接口的 label字段中,
  • 对于您认为正常的样本,传入normal,可以将该样本加入白名单。
  • 对于您认为违规的样本,传入任意字段(建议您使用pornadterrorism等风险字段),可以将该样本加入黑名单。