125 lines
3.2 KiB
Markdown
125 lines
3.2 KiB
Markdown
# AMC
|
||
|
||
|
||
## 概述
|
||
|
||
AMC（美国数学竞赛）是一个基于2022-2024年AMC 10/12竞赛题目的基准测试。这些选择题考察高中阶段的数学解题能力，并作为晋级AIME竞赛的资格赛。
|
||
|
||
## 任务描述
|
||
|
||
- **任务类型**：竞赛数学（选择题）
|
||
- **输入**：AMC级别的数学问题
|
||
- **输出**：带逐步推理过程的正确答案
|
||
- **涵盖年份**：2022、2023、2024
|
||
|
||
## 主要特点
|
||
|
||
- 题目来自2022-2024年的AMC 10和AMC 12竞赛
|
||
- 五选一的多项选择题格式
|
||
- 考察主题：代数、几何、数论、组合数学
|
||
- 难度从基础到高阶不等
|
||
- 使用官方竞赛题目，配有已验证的解答
|
||
|
||
## 评估说明
|
||
|
||
- 默认配置采用 **0-shot** 评估
|
||
- 答案需用 `\boxed{}` 格式包裹以便正确提取
|
||
- 提供三个子集：`amc22`、`amc23`、`amc24`
|
||
- 题目包含原始URL供参考
|
||
- 元数据中提供解答用于验证
|
||
|
||
|
||
## 属性
|
||
|
||
| 属性 | 值 |
|
||
|----------|-------|
|
||
| **基准测试名称** | `amc` |
|
||
| **数据集ID** | [evalscope/amc_22-24](https://modelscope.cn/datasets/evalscope/amc_22-24/summary) |
|
||
| **论文** | N/A |
|
||
| **标签** | `Math`, `Reasoning` |
|
||
| **指标** | `acc` |
|
||
| **默认示例数量** | 0-shot |
|
||
| **评估划分** | `N/A` |
|
||
|
||
|
||
## 数据统计
|
||
|
||
| 指标 | 值 |
|
||
|--------|-------|
|
||
| 总样本数 | 134 |
|
||
| 提示词长度（平均） | 324.58 字符 |
|
||
| 提示词长度（最小/最大） | 98 / 1218 字符 |
|
||
|
||
**各子集统计数据：**
|
||
|
||
| 子集 | 样本数 | 提示平均长度 | 提示最小长度 | 提示最大长度 |
|
||
|--------|---------|-------------|------------|------------|
|
||
| `amc22` | 43 | 337.42 | 129 | 934 |
|
||
| `amc23` | 46 | 337.98 | 143 | 1218 |
|
||
| `amc24` | 45 | 298.62 | 98 | 882 |
|
||
|
||
## 样例示例
|
||
|
||
**子集**: `amc22`
|
||
|
||
```json
|
||
{
|
||
"input": [
|
||
{
|
||
"id": "54851a8f",
|
||
"content": "What is the value of\\[3+\\frac{1}{3+\\frac{1}{3+\\frac13}}?\\]\nPlease reason step by step, and put your final answer within \\boxed{}."
|
||
}
|
||
],
|
||
"target": "\\frac{109}{33}",
|
||
"id": 0,
|
||
"group_id": 0,
|
||
"metadata": {
|
||
"year": 2022,
|
||
"url": "https://artofproblemsolving.com/wiki/index.php/2022_AMC_12A_Problems/Problem_1",
|
||
"solution": "We have\\begin{align*} 3+\\frac{1}{3+\\frac{1}{3+\\frac13}} &= 3+\\frac{1}{3+\\frac{1}{\\left(\\frac{10}{3}\\right)}} \\\\ &= 3+\\frac{1}{3+\\frac{3}{10}} \\\\ &= 3+\\frac{1}{\\left(\\frac{33}{10}\\right)} \\\\ &= 3+\\frac{10}{33} \\\\ &= \\boxed{\\textbf{(D)}\\ \\frac{109}{33}}. \\end{align*}"
|
||
}
|
||
}
|
||
```
|
||
|
||
## 提示模板
|
||
|
||
**提示模板：**
|
||
```text
|
||
{question}
|
||
Please reason step by step, and put your final answer within \boxed{{}}.
|
||
```
|
||
|
||
## 使用方法
|
||
|
||
### 使用命令行（CLI）
|
||
|
||
```bash
|
||
evalscope eval \
|
||
--model YOUR_MODEL \
|
||
--api-url OPENAI_API_COMPAT_URL \
|
||
--api-key EMPTY_TOKEN \
|
||
--datasets amc \
|
||
--limit 10 # 正式评估时请删除此行
|
||
```
|
||
|
||
### 使用Python
|
||
|
||
```python
|
||
from evalscope import run_task
|
||
from evalscope.config import TaskConfig
|
||
|
||
task_cfg = TaskConfig(
|
||
model='YOUR_MODEL',
|
||
api_url='OPENAI_API_COMPAT_URL',
|
||
api_key='EMPTY_TOKEN',
|
||
datasets=['amc'],
|
||
dataset_args={
|
||
'amc': {
|
||
# subset_list: ['amc22', 'amc23', 'amc24'] # 可选，用于评估特定子集
|
||
}
|
||
},
|
||
limit=10, # 正式评估时请删除此行
|
||
)
|
||
|
||
run_task(task_cfg=task_cfg)
|
||
``` |