考试中心

管理员可以通过考试中心培训及考核新标注人员,验证学习成效,确保标注人员掌握必备知识与技能,以提升标注的准确性与一致性,筛选合格人员。同时,考试中心也能服务于持续教育与技能强化。本文介绍如何创建、关联和处理考试等相关操作。

使用流程说明

image

创建考试

  1. 进入智能标注(iTAG)。

    1. 登录PAI控制台

    2. 在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应工作空间。

    3. 在左侧导航栏,选择数据准备 > 智能标注(iTAG)

  2. 单击考试中心,跳转至管理中心 > 租户配置页面的考试中心页签。

    image

  3. 单击创建考试

    1. 数据选择

      1. 选择数据集,单击下一步

        说明

        iTAG暂不支持选择数据集版本,默认为v1版本。

      2. 预览数据集内容,设置分包策略,单击下一步

    2. 模板选择

      1. 选择模板,单击编辑进行配置。

      2. 完成配置后,单击下一步。配置模板的具体操作,请参见模板概述

    3. 考试配置

      参数

      说明

      基本信息

      考试名称

      自定义考试名称。

      考试模式

      考试模式分为以下两种。

      • 自动阅卷:自动映射答案,完成批卷,需要在数据集中包含一列答案字段用于映射。

      • 手动阅卷:人工完成每一份试卷的审核,需要配置阅卷人员,无需配置答案。

      考试人员/组

      设置考试人员和管理员,如果后期创建正式任务,并关联此考试,会自动添加考试人员/组。

      管理员/组

      合格阈值

      取值范围为1%~100%,考卷正确率达到阈值即为合格。

      最大考试次数

      考试人员可以重试的次数。

      考试说明

      您可以选择关联文档上传文件填写说明图片引导的方式对考试注意事项进行补充说明。

      智能标注

      标注方式

      包括以下两种方式:

      • 不使用:不使用智能标注配置。

      • 使用离线预标注结果:传的数据集中已经包含了预标注结果,iTAG平台支持展示预标注结果。

      高级配置

      子任务包超时废弃

      开启后,当任务包超过规定的时间还没有被领取过,则废弃此子任务包。

  4. 单击创建任务,完成创建。

关联考试

您可以按照如下操作步骤,为标注任务关联一个或多个已创建的考试。关联考试后,该任务需要标注人员通过考试后才可进行标注。

  1. 在左侧导航选择管理中心 > 任务管理

  2. 任务管理页签下,单击目标任务名称,进入任务详情页面。

  3. 在页签栏选择任务配置 > 分发信息,关联目标考试。

    image

管理考试

管理中心 > 租户配置页面的考试中心页签,您可以对已创建的考试进行如下操作:

  • 单击操作列的考试详情,查看该考试包含的子任务包及详细考试页面。

  • 对于已经完成的考试,单击操作列的导出考试,可以下载考试情况,进行错题等深度统计。

  • 单击操作列的追加试卷数量,可以增加试卷数量。

  • 单击操作列的获取标注结果,可以获取标注结果。具体操作,请参见导出标注结果数据

  • 单击考试名称,在考试配置 > 分发信息页面,管理者可以修改允许重试次数

    如果考生未能一次性通过考试,则根据预设的规则获得重试机会;如果达到最大重试次数后仍未通过考试,将取消考试资格并进行任务剔除。

    image

处理考试

  1. 在左侧导航选择标注大厅 > 考试,在考试任务页签下的可领取的考试区域,单击开始考试

  2. 在考试页面进行打标,标注完成后,单击右上角的提交考试

    image

校阅考试

当标注人员结束考试,且考试模式选择手动阅卷,需要由阅卷人员进行人工校阅。

  1. 在左侧导航选择标注大厅 > 考试,在质检任务页签下的可校阅的考试区域,单击检查

  2. 在校验页面检查或修改后,单击右上角的提交考试

    image