考试中心

更新时间:
复制 MD 格式

考试中心用于培训、考核和筛选标注人员,提升标注准确性和一致性。管理员可创建、关联和管理考试,支持自动或手动阅卷。

使用流程说明

image

创建考试

  1. 进入智能标注(iTAG)。

    1. 登录PAI控制台

    2. 在左侧导航栏单击工作空间列表,在工作空间列表中单击目标工作空间名称。

    3. 在左侧导航栏,选择数据准备 > 智能标注(iTAG)

  2. 单击考试中心,跳转至管理中心 > 租户配置页面的考试中心页签。

    image

  3. 单击创建考试

    1. 数据选择

      1. 选择数据集,单击下一步

        说明

        iTAG暂不支持选择数据集版本,默认为v1版本。

      2. 预览数据集内容,设置分包策略,单击下一步

    2. 模板选择

      1. 选择模板,单击编辑配置。

      2. 完成配置后,单击下一步。模板配置详情,请参见模板概述

    3. 考试配置

      参数

      说明

      基本信息

      考试名称

      自定义考试名称。

      考试模式

      考试模式包括以下两种。

      • 自动阅卷:自动映射答案并批卷,数据集中需包含答案字段。

      • 手动阅卷:人工审核每份试卷,需配置阅卷人员,无需配置答案。

      考试人员/组

      设置考试人员和管理员。后续创建正式任务并关联此考试时,会自动添加考试人员/组。

      管理员/组

      合格阈值

      取值范围1%~100%,正确率达到阈值即为合格。

      最大考试次数

      考试人员可重试的次数。

      考试说明

      可通过关联文档上传文件填写说明图片引导补充考试注意事项。

      智能标注

      标注方式

      包括以下两种:

      • 不使用:不使用智能标注配置。

      • 使用离线预标注结果:数据集已包含预标注结果,iTAG支持展示预标注结果。

      高级配置

      子任务包超时废弃

      开启后,任务包超过规定时间未被领取,将废弃该子任务包。

  4. 单击创建任务,完成创建。

关联考试

为标注任务关联一个或多个已创建的考试。关联后,标注人员需通过考试才能开始标注。

  1. 在左侧导航选择管理中心 > 任务管理

  2. 任务管理页签,单击目标任务名称,进入任务详情。

  3. 在页签栏选择任务配置 > 分发信息,关联目标考试。

    image

管理考试

管理中心 > 租户配置页面的考试中心页签,可对已创建的考试执行以下操作:

  • 单击操作列的考试详情,查看该考试的子任务包和详情。

  • 已完成考试的,单击操作列的导出考试下载考试情况,进行错题等深度统计。

  • 单击操作列的追加试卷数量增加试卷数量。

  • 单击操作列的获取标注结果获取标注结果。具体操作,请参见导出标注结果数据

  • 单击考试名称,在考试配置 > 分发信息页面修改允许重试次数

    考生未一次性通过考试时,按预设规则获得重试机会;达到最大重试次数仍未通过,将取消考试资格并剔除任务。

    image

处理考试

  1. 在左侧导航选择标注大厅 > 考试,在考试任务页签下的可领取的考试区域,单击开始考试

  2. 在考试页面打标,完成后单击右上角的提交考试

    image

校阅考试

考试模式为手动阅卷时,需由阅卷人员人工校阅。

  1. 在左侧导航选择标注大厅 > 考试,在质检任务页签下的可校阅的考试区域,单击检查

  2. 在校验页面检查或修改后,单击右上角的提交考试

    image