质检敏感词管理

创建敏感词表

1. 登录 mPaaS 控制台，从左侧导航栏进入 内容中台 > 质检敏感词管理 页面。

2. 单击 创建敏感词表，在创建面板中设置词表信息并添加敏感词。

   • 词表名称：自定义敏感词表的名称，应用内保持唯一。

   • 词表描述：对该词表包含的敏感词进行简要的描述。

   • 敏感词信息：支持手动输入敏感词，或通过文件导入的方式批量上传敏感词。

     • 手动输入：在输入框中输入敏感词，按回车键（Enter）后，继续添加。

     • 文件导入：仅支持导入 .txt 格式的文件，文件大小不超过 50 MB。文件中每条记录占一行，词语长度需小于 100 字符，超过 100 字符时，将不予以导入。重复条目只导入一次。

3. 敏感词添加完毕后，单击 确定 完成敏感词表创建。新建的敏感词表将展示在词表列表上方，默认不启用，即未应用到敏感词模型中去。

启用/停用敏感词表

在词表列表中，选择未启用的目标敏感词表，单击操作列下的 启用 菜单，使该词表生效。如无需使用该词表，单击 停用 菜单即可。

一旦启用，敏感词表将配合敏感词模型对入库内容进行敏感词质检。

编辑敏感词表

在词表列表中，选择要修改的敏感词表，单击操作列下的 编辑 菜单，修改词表基本信息，添加或删除敏感词。

已启用的敏感词表不支持编辑，需要先停用后方可修改。

删除敏感词表

在词表列表中，选择要删除的敏感词表，单击操作列下的 删除 菜单即可。

二次扫描

背景

敏感词表的启动和停用，仅会影响尚未通过机器质检的内容；对于已经通过了质检的内容和评论（无论是否已发布到线上），都不会受到敏感词表启用和停用的影响。

因此，需要单独开辟一个敏感词全量扫描质检的功能，使得遇到突发舆情事件时，可针对敏感词实现对 质检已通过 的内容和评论的再次扫描质检。

页面流程

1. 登录 mPaaS 控制台，从左侧导航栏进入 内容中台 > 质检敏感词管理 页面。

2. 点击 二次扫描 按钮，对处于上述状态的内容及评论进行全量敏感词再次扫描，扫描完成后导出.csv文件，给后续处理提供依据。

• 质检已通过的内容包含两种状态：已发布、已上线。

• 质检已通过的评论的状态为：正常

导出的.csv文件分为三个 sheet，分别是视频、图文、评论的扫描结果。每个 sheet 中包含以下字段：

内容 id/评论 id、命中敏感词（可包含多个，当存在多个时用英文逗号分隔）、内容状态/评论状态。