介绍使用人工评估维度的评测任务的人工标注流程:Case 分析页配置人工维度、快速标注模式、评测详情抽屉内对比参考答案与模型输出并打标签。
人工标注评测概述
人工标注评测适用于需要人工判断的场景,如创意性写作、专业性内容评审等。使用人工评估-分类型维度(参见人工评估)创建的评测任务,需要人工逐条为模型推理结果标注 Pass/Fail 标签。基线评测任务不可进入人工标注页面。
标注流程
- 在评测任务列表中,找到使用人工评估维度的评测任务,单击任务名称打开详情。
- 在 Case 分析页签,可先单击人工维度配置,在弹层中从已创建的人工评测维度列表单击添加,或单击创建人工维度新建(最多 10 个人工标注维度),并可切换快速标注模式提高标注效率。
- 单击样本的详情打开评测详情抽屉:左侧以对话形式展示完整多轮对话内容,可对比参考答案与模型输出;底部标签区展示人工标注维度与标签,为当前样本选择对应标签完成标注。
- 使用上一条、下一条按钮在样本间翻页,直至所有数据标注完成。
标注进度与任务状态
全部数据标注完成后,任务状态自动变为评测完成,结果解读参见查看评测结果。标注完成前,任务始终处于进行中状态。
与自动评测相比,人工评估无裁判模型评分费用,但需要人力投入且耗时更长。标签设计的详细说明请参见人工评估。
该文章对您有帮助吗?