管理员可以通过考试中心培训及考核新标注人员,验证学习成效,确保标注人员掌握必备知识与技能,以提升标注的准确性与一致性,筛选合格人员。同时,考试中心也能服务于持续教育与技能强化。本文介绍如何创建、关联和处理考试等相关操作。
使用流程说明
创建考试
进入智能标注(iTAG)。
登录PAI控制台。
在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应工作空间。
在左侧导航栏,选择数据准备 > 智能标注(iTAG)。
单击考试中心,跳转至管理中心 > 租户配置页面的考试中心页签。
单击创建考试。
数据选择
选择数据集,单击下一步。
说明iTAG暂不支持选择数据集版本,默认为v1版本。
预览数据集内容,设置分包策略,单击下一步。
模板选择
选择模板,单击编辑进行配置。
完成配置后,单击下一步。配置模板的具体操作,请参见模板概述。
考试配置
参数
说明
基本信息
考试名称
自定义考试名称。
考试模式
考试模式分为以下两种。
自动阅卷:自动映射答案,完成批卷,需要在数据集中包含一列答案字段用于映射。
手动阅卷:人工完成每一份试卷的审核,需要配置阅卷人员,无需配置答案。
考试人员/组
设置考试人员和管理员,如果后期创建正式任务,并关联此考试,会自动添加考试人员/组。
管理员/组
合格阈值
取值范围为1%~100%,考卷正确率达到阈值即为合格。
最大考试次数
考试人员可以重试的次数。
考试说明
您可以选择关联文档、上传文件、填写说明或图片引导的方式对考试注意事项进行补充说明。
智能标注
标注方式
包括以下两种方式:
不使用:不使用智能标注配置。
使用离线预标注结果:传的数据集中已经包含了预标注结果,iTAG平台支持展示预标注结果。
高级配置
子任务包超时废弃
开启后,当任务包超过规定的时间还没有被领取过,则废弃此子任务包。
单击创建任务,完成创建。
关联考试
您可以按照如下操作步骤,为标注任务关联一个或多个已创建的考试。关联考试后,该任务需要标注人员通过考试后才可进行标注。
在左侧导航选择管理中心 > 任务管理。
在任务管理页签下,单击目标任务名称,进入任务详情页面。
在页签栏选择任务配置 > 分发信息,关联目标考试。
管理考试
在管理中心 > 租户配置页面的考试中心页签,您可以对已创建的考试进行如下操作:
单击操作列的考试详情,查看该考试包含的子任务包及详细考试页面。
对于已经完成的考试,单击操作列的导出考试,可以下载考试情况,进行错题等深度统计。
单击操作列的追加试卷数量,可以增加试卷数量。
单击操作列的获取标注结果,可以获取标注结果。具体操作,请参见导出标注结果数据。
单击考试名称,在考试配置 > 分发信息页面,管理者可以修改允许重试次数。
如果考生未能一次性通过考试,则根据预设的规则获得重试机会;如果达到最大重试次数后仍未通过考试,将取消考试资格并进行任务剔除。
处理考试
在左侧导航选择标注大厅 > 考试,在考试任务页签下的可领取的考试区域,单击开始考试。
在考试页面进行打标,标注完成后,单击右上角的提交考试。
校阅考试
当标注人员结束考试,且考试模式选择手动阅卷,需要由阅卷人员进行人工校阅。
在左侧导航选择标注大厅 > 考试,在质检任务页签下的可校阅的考试区域,单击检查。
在校验页面检查或修改后,单击右上角的提交考试。