创建基线评测任务

更新时间:
复制 MD 格式

基线评测内置覆盖通用知识、数学、代码、上下文推理、领域专项 5 大类共 13 个公开标准基线,无需自行准备数据集或配置评测维度,快速获得模型基础能力的基准分数。

创建基线评测任务概述

基线评测内置覆盖通用知识、数学、代码、上下文推理、领域专项 5 大类共 13 个公开标准基线,自动评测模型基础能力,无需自行准备数据集或配置评测维度,快速获得基准分数。

重要

基线评测仅北京地域可用。其他地域不显示此选项,属正常现象。

基线库

基线库按 5 大类组织:

  • 通用知识:评估模型在多学科专业知识、多语言理解、指令遵循等通用能力上的表现。
  • 数学:评估模型的数学推理与竞赛数学能力。
  • 代码:评估模型的代码生成能力。
  • 上下文推理:评估模型在长文本中的检索、理解与推理能力。
  • 领域专项:评估模型在金融、医学等领域专业场景的能力。

各基线的标签、题目数量、评测维度与说明如下:

分类

Benchmark

标签

题目数

评测维度

说明

通用知识

MMLU-Pro

知识问答 10选项

12,032

14 项

涵盖 STEM 等 14 个学科领域的增强版多选题,测试专业知识与深度推理能力

通用知识

MMMLU

文本推理 多语言

196,588

14 项

MMLU 多语言版,将测试题专业翻译为 14 种语言,评估多语言能力

通用知识

BrowseComp-ZH-Revised

推理 文本 中文

289

—

中文网络环境高难度基准,289 道跨 11 领域多跳问题

通用知识

IFEval

指令遵循 25种规则

541

—

涵盖格式约束、长度限制等 25 类可验证指令规则,评估精确遵循指令能力

数学

GSM8K

数学 文本 英文

1,319

—

小学数学应用题,需多步推理和基本算术,评估数学推理基础能力

数学

MATH-500

数学推理 5难度级别

500

5 项

涵盖代数、几何、数论等 500 道分级竞赛数学题

数学

AIME-2025

竞赛数学 整数答案

30

—

30 道高难度竞赛题,源自美国数学邀请赛

代码

HumanEval

Python 函数生成

164

—

164 道 Python 函数生成题(含签名、文档字符串、测试用例),测试代码生成能力

上下文推理

LongBench-v2

双语 6类任务 长文本

503

3 项

涵盖单/多文档问答、长上下文学习、代码仓库理解等 6 类双语长文本任务

上下文推理

OpenAI-MRCR

长上下文 共指消解 双语

2,400

3 项

多轮对话共指消解任务,测试超长上下文中精确检索和区分相似内容的能力

领域专项

FinanceQA

金融推理 数值计算 多步骤

148

3 项

对冲基金、投行等真实金融分析场景的多步骤数值计算题,测试金融推理能力

领域专项

PubMedQA

生物医学 三分类 文献QA

1,000

—

基于 PubMed 文献摘要的研究类问答,答案为 yes/no/maybe 三分类

领域专项

MedMCQA

医学 21学科 MCQ

4,183

—

涵盖解剖学、生理学、药理学等 21 个医学学科的多选题

创建流程

  1. 在百炼控制台,选择评测任务页签,单击创建评测任务。
  2. 评测方式选择基线评测。
  3. 选择要评测的目标模型。支持选择官方模型(千问系列商业模型与开源模型)和我的模型(已部署的调优模型)。
  4. 选择基线评测数据。基线库按 5 大类分 tab 展示,卡片含 benchmark 名称、标签、说明和题目数量,可多选。部分 benchmark 支持评测维度勾选,默认全部选中,可自定义取消只跑指定子维度数据。
  5. (可选)开启数据采样百分比开关,按百分比采样评测数据以缩短评测耗时;关闭则跑全量数据。
  6. 单击开始评测提交任务。费用按实际推理与评分消耗计算,提交前可查看计算详情。

与自定义评测的区别

  • 基线评测不使用自定义评测维度,系统使用预设标准自动评分。
  • 基线评测不支持推理结果集数据来源,仅使用平台预设的公开数据集。
  • 基线评测任务在任务列表中显示综合得分,不显示维度详情列(显示短横线)。
  • 基线评测任务不可进入人工标注页面。

自定义评测的创建请参见创建自定义评测任务。

常见问题

问题:创建评测任务时看不到基线评测选项。

基线评测仅限北京地域使用。如果您在其他地域,评测方式只显示自定义评测,这是预期行为。