Dataset Viewer
Auto-converted to Parquet Duplicate
description
string
runs
list
rescoring
list
public_dataset_names
dict
local_dataset_files
dict
AR-FPA math evaluation runs. Numbers correspond to fixed author decoding settings, not to public leaderboard protocols.
[ { "run_id": "fpa-epoch0-full-20261025", "model_name": "epoch0", "revision": "3585f8d96368cdbb76d8696239023b5080787cb5", "fpa_layout": [ "<|comm|>", "<|comm|>", "<|comm|>", "<|comm|>", "<|subtask_start|>" ], "opener_is_sampled": true, "temperature": 0, "m...
[ { "run_id": "fpa-epoch0-full-20261025", "source_samples": "/work/wenhaodong/math_eval/runs/fpa-epoch0-full-20261025/samples", "output_samples": "/work/wenhaodong/math_eval/runs/fpa-epoch0-full-20261025/rescore/samples", "scorer_version": "final-answer-v4", "rescored_utc": "2026-10-25T14:15:57.08...
{ "aime2024": "AIME 2024 (I+II), 30 problems", "aime2025": "AIME 2025, 30 problems", "aime2026": "AIME 2026, 30 problems", "math500": "MATH-500 (Hendrycks MATH test subset), 500 problems", "gsm8k": "GSM8K test split, 1319 problems" }
{ "gsm8k": "datasets/gsm8k.jsonl", "aime2024": "datasets/aime2024_I.jsonl + aime2024_II.jsonl", "aime2025": "datasets/aime2025.jsonl", "aime2026": "datasets/aime2026.jsonl", "math500": "datasets/math500.jsonl" }

AR-FPA 数学评测结果(Epoch 0 / Epoch 1)

本仓库保存 AR-FPA checkpoint 的数学评测原始产物:逐题生成结果、判分记录、汇总指标、分层统计与评测配置。

重要声明:本仓库中的数字对应固定的作者解码设置(temperature=0,每题采样一次,max_new_tokens=4096),不代表公开榜单同协议结果,也不构成 FPA 相对其他方法的提升证据。训练集与评测题是否存在重叠尚未确认。

1. 结果总览(最终评分器 final-answer-v4,重新评分后)

数据集 Epoch 0 Epoch 1
MATH-500 305/500 (61.00%) 285/500 (57.00%)
GSM8K 934/1319 (70.81%) 856/1289 (66.41%),未跑完
AIME 2024 3/30 (10.00%) 4/30 (13.33%)
AIME 2025 1/30 (3.33%) 2/30 (6.67%)
AIME 2026 2/30 (6.67%) 0/30 (0.00%)

说明:

  • Epoch 1 的 GSM8K 只完成 1289/1319 题(shard2 缺 2 题,shard3 缺 28 题),因此该行为中间结果,不可与 Epoch 0 直接比较。
  • Epoch 1 的 MATH-500 / AIME 报告存在两套分数:report_primary.md(原始评分器 final-answer-v2)与 report_rescored.md(final-answer-v4 重新评分)。上表采用 rescored 版本。Epoch 1 重新评分改动了 35 道题的对错判定,差异较大,引用时务必注明评分器版本。
  • Epoch 0 的原始评分与重新评分结果完全一致(0 道题判定改变)。

原始(primary)分数对照,Epoch 1:MATH-500 252/500 (50.40%)、AIME24 3/30、AIME25 1/30、AIME26 0/30。

2. 评测协议差异(两个 checkpoint 不一致,务必注意)

项 Epoch 0 Epoch 1
model revision 3585f8d96368cdbb76d8696239023b5080787cb5 23fb7c4fc99b06e12b8cd38e5017ac68e42efedb
FPA layout <|comm|> <|comm|> <|comm|> <|comm|> <|subtask_start|> <|subtask_start|> <|comm|> <|comm|> <|comm|> <|comm|>
opener_is_sampled true false
protocol hash 613e0ba1670f49912f128d99d7d2875f949ad6f1a7e240e9ed0000d86b98a48a c2f97f4c6f7a91d2325167f4fa306e7cf93d37db7d46db5cd56c857bfa34f697
数据集 aime2024, aime2025, aime2026, math500, gsm8k aime2024, aime2025, aime2026, math500, gsm8k(部分)

两个 checkpoint 的 <|comm|> 与 <|subtask_start|> 前后顺序相反。两份 README 描述不一致,评测脚本必须与各自模型的 layout 对应,否则生成结构不可比。

公共解码设置:temperature=0、max_new_tokens=4096、max_block_tokens=512、num_samples=1、prompt 为原始题目(使用仓库 chat template)。

3. 目录结构

.
├── README.md
├── metrics_comparison.csv        # 上表的机器可读版本
├── epoch1_primary_vs_rescored.csv
├── eval_config.json              # 两个 checkpoint 的完整评测配置
├── epoch0/
│   ├── manifest.json             # 运行清单:协议、代码哈希、环境哈希、GPU、命令
│   ├── status.json               # 运行状态
│   ├── summary.json              # 汇总指标(原始评分器)
│   ├── summary_rescored.json     # 汇总指标(final-answer-v4 重新评分)
│   ├── results.jsonl.gz          # 逐题结果(含完整 raw_output / token trace / score)
│   ├── results_rescored.jsonl.gz # 逐题结果(重新评分后)
│   ├── samples.tar.gz            # 1909 个逐题独立 JSON 的归档
│   ├── rescore/                  # 重新评分产物
│   │   ├── manifest.json
│   │   └── samples.tar.gz
│   └── reports/                  # 人读报告:总体、MATH-500 by subject / by level、异常清单
├── epoch1/
│   ├── aime_math/                # 590 题:math500 + aime2024/2025/2026
│   │   ├── manifest.json  status.json
│   │   ├── summary.json          # 原始评分器 final-answer-v2
│   │   ├── summary_rescored.json # final-answer-v4
│   │   ├── results.jsonl.gz  results_rescored.jsonl.gz
│   │   ├── samples.tar.gz
│   │   ├── rescore/{manifest.json, samples.tar.gz}
│   │   └── reports/              # report_primary.md + report_rescored.md + CSV
│   └── gsm8k/                    # 分片运行,未合并(shard2/3 未完成)
│       ├── shard0/  shard1/      # 各 330 题,已完成
│       │   ├── manifest.json  manifest.before_protocol_migration.json
│       │   ├── status.json  summary.json
│       │   └── samples.tar.gz
│       └── shard2/  shard3/      # 未完成:328/330、301/329
├── code/                         # 评测代码快照(run_eval.py、scoring.py、rescore.py 等)
└── config/                       # 环境锁定、数据集清单、模型快照校验、启动命令

关于压缩

逐题结果以两种形式保存,均已压缩(原始文本高度重复,gzip 后约为原来的 1/5.5):

  • results*.jsonl.gz — 全部题目在一个文件里,适合直接加载分析。
  • samples.tar.gz — 每题一个 JSON 文件,按题目哈希命名,适合按 ID 定位单题。

两者内容等价。逐题独立 JSON 打包为 tar.gz 是为了规避上万个小于 1 MB 的文件逐个上传的开销。解压后即可还原为原 samples/ 目录:

tar -xzf epoch0/samples.tar.gz          # 得到 samples/<sha256>.json
tar -xzf epoch0/rescore/samples.tar.gz  # 得到 samples/<sha256>.json

内容与 results.jsonl.gz 解压后的逐行记录完全等价(同一道题的两份表示)。日常分析建议直接用 results.jsonl.gz:

import pandas as pd
df = pd.read_json("epoch0/results_rescored.jsonl.gz", lines=True)  # pandas 按扩展名自动解压
df[["id", "benchmark", "score"]].head()

文件字段说明

  • summary*.json(未压缩):每个 benchmark 的 completed/expected、correct、accuracy、coverage,以及 score_statuses(判分状态分布)、extraction_counts(答案抽取方式)、stop_reasons(EOS / 预算截断)、分支结构统计、生成耗时与显存峰值。
  • results*.jsonl.gz:gzip 压缩的 JSONL,一行一题,字段包括 id、benchmark、question、answer(标准答案)、raw_output、scoring_text、output_tokens_trace(逐 token 的 region/block/role 标注)、structure、score、performance、protocol_hash。
  • samples.tar.gz 内的 *.json:与 results.jsonl.gz 相同的单题记录,按题目哈希命名,便于按 ID 直接定位。
  • reports/*.md / *.csv:由 write_report.py 生成的汇总报告与 MATH-500 分学科/分难度统计、异常样本清单。

4. 复现

评测代码位于 code/,各 manifest.json 的 code_sha256 字段记录了运行时每个脚本的哈希,可用于核对代码版本。

# 汇总指标
python code/write_report.py --run-dir <run_dir>

# 重新评分
python code/rescore.py --run-dir <run_dir> --scorer final-answer-v4

环境依赖见 config/requirements.lock.txt。

5. 已知问题

  • Epoch 1 的 GSM8K 未跑完,没有合并后的 runs/fpa-epoch1-gsm8k-20261025/ 目录,只有 4 个分片。
  • 两个 checkpoint 的 FPA layout 顺序相反(见第 2 节),跨 checkpoint 比较前需确认结构解析一致。
  • 大量样本触发 sample_budget 截断且分支未终止(见各 summary*.json 的 stop_reasons、incomplete_branches_total),这会压低正确率,属于当前解码设置的固有限制。
Downloads last month
232