evalstone/evalscope/docs/zh/benchmarks/aime25.md

AIME-2025

概述

AIME 2025（2025年美国数学邀请赛）是一个基于著名AIME竞赛题目的基准测试。AIME是美国最具挑战性的高中数学竞赛之一，该基准测试旨在评估高级数学推理与问题解决能力。

任务描述

• 任务类型：竞赛数学问题求解
• 输入：AIME级别的数学问题
• 输出：整数答案（0-999），并附带逐步推理过程
• 难度：高级高中 / 大学低年级水平

主要特点

• 题目来自2025年AIME I和AIME II竞赛
• 答案始终为0到999之间的整数
• 要求具备创造性的数学推理与解题能力
• 涉及主题：代数、几何、数论、组合数学、概率
• 代表顶尖高中数学竞赛的难度水平

评估说明

• 默认配置采用 0-shot 评估方式
• 答案应使用 \boxed{} 格式包裹，以便正确提取
• 使用LLM-as-judge进行数学等价性检查

属性

属性	值
基准测试名称	aime25
数据集ID	evalscope/aime25
论文	N/A
标签	Math, Reasoning
指标	acc
默认示例数量	0-shot
评估划分	test

数据统计

指标	值
总样本数	30
提示词长度（平均）	604.93 字符
提示词长度（最小/最大）	208 / 1862 字符

样例示例

子集: default

{
  "input": [
    {
      "id": "bff66863",
      "content": "\nSolve the following math problem step by step. Put your answer inside \\boxed{}.\n\nFind the sum of all integer bases $b>9$ for which $17_b$ is a divisor of $97_b.$\n\nRemember to put your answer inside \\boxed{}."
    }
  ],
  "target": "70",
  "id": 0,
  "group_id": 0
}

提示模板

提示模板:

Solve the following math problem step by step. Put your answer inside \boxed{{}}.

{question}

Remember to put your answer inside \boxed{{}}.

使用方法

使用命令行接口（CLI）

evalscope eval \
    --model YOUR_MODEL \
    --api-url OPENAI_API_COMPAT_URL \
    --api-key EMPTY_TOKEN \
    --datasets aime25 \
    --limit 10  # 正式评估时请删除此行

使用Python

from evalscope import run_task
from evalscope.config import TaskConfig

task_cfg = TaskConfig(
    model='YOUR_MODEL',
    api_url='OPENAI_API_COMPAT_URL',
    api_key='EMPTY_TOKEN',
    datasets=['aime25'],
    limit=10,  # 正式评估时请删除此行
)

run_task(task_cfg=task_cfg)