description string | runs list | rescoring list | public_dataset_names dict | local_dataset_files dict |
|---|---|---|---|---|
AR-FPA math evaluation runs. Numbers correspond to fixed author decoding settings, not to public leaderboard protocols. | [
{
"run_id": "fpa-epoch0-full-20261025",
"model_name": "epoch0",
"revision": "3585f8d96368cdbb76d8696239023b5080787cb5",
"fpa_layout": [
"<|comm|>",
"<|comm|>",
"<|comm|>",
"<|comm|>",
"<|subtask_start|>"
],
"opener_is_sampled": true,
"temperature": 0,
"m... | [
{
"run_id": "fpa-epoch0-full-20261025",
"source_samples": "/work/wenhaodong/math_eval/runs/fpa-epoch0-full-20261025/samples",
"output_samples": "/work/wenhaodong/math_eval/runs/fpa-epoch0-full-20261025/rescore/samples",
"scorer_version": "final-answer-v4",
"rescored_utc": "2026-10-25T14:15:57.08... | {
"aime2024": "AIME 2024 (I+II), 30 problems",
"aime2025": "AIME 2025, 30 problems",
"aime2026": "AIME 2026, 30 problems",
"math500": "MATH-500 (Hendrycks MATH test subset), 500 problems",
"gsm8k": "GSM8K test split, 1319 problems"
} | {
"gsm8k": "datasets/gsm8k.jsonl",
"aime2024": "datasets/aime2024_I.jsonl + aime2024_II.jsonl",
"aime2025": "datasets/aime2025.jsonl",
"aime2026": "datasets/aime2026.jsonl",
"math500": "datasets/math500.jsonl"
} |
AR-FPA 数学评测结果(Epoch 0 / Epoch 1)
本仓库保存 AR-FPA checkpoint 的数学评测原始产物:逐题生成结果、判分记录、汇总指标、分层统计与评测配置。
重要声明:本仓库中的数字对应固定的作者解码设置(temperature=0,每题采样一次,max_new_tokens=4096),不代表公开榜单同协议结果,也不构成 FPA 相对其他方法的提升证据。训练集与评测题是否存在重叠尚未确认。
1. 结果总览(最终评分器 final-answer-v4,重新评分后)
| 数据集 | Epoch 0 | Epoch 1 |
|---|---|---|
| MATH-500 | 305/500 (61.00%) | 285/500 (57.00%) |
| GSM8K | 934/1319 (70.81%) | 856/1289 (66.41%),未跑完 |
| AIME 2024 | 3/30 (10.00%) | 4/30 (13.33%) |
| AIME 2025 | 1/30 (3.33%) | 2/30 (6.67%) |
| AIME 2026 | 2/30 (6.67%) | 0/30 (0.00%) |
说明:
- Epoch 1 的 GSM8K 只完成 1289/1319 题(shard2 缺 2 题,shard3 缺 28 题),因此该行为中间结果,不可与 Epoch 0 直接比较。
- Epoch 1 的 MATH-500 / AIME 报告存在两套分数:
report_primary.md(原始评分器final-answer-v2)与report_rescored.md(final-answer-v4重新评分)。上表采用 rescored 版本。Epoch 1 重新评分改动了 35 道题的对错判定,差异较大,引用时务必注明评分器版本。 - Epoch 0 的原始评分与重新评分结果完全一致(0 道题判定改变)。
原始(primary)分数对照,Epoch 1:MATH-500 252/500 (50.40%)、AIME24 3/30、AIME25 1/30、AIME26 0/30。
2. 评测协议差异(两个 checkpoint 不一致,务必注意)
| 项 | Epoch 0 | Epoch 1 |
|---|---|---|
| model revision | 3585f8d96368cdbb76d8696239023b5080787cb5 |
23fb7c4fc99b06e12b8cd38e5017ac68e42efedb |
| FPA layout | <|comm|> <|comm|> <|comm|> <|comm|> <|subtask_start|> |
<|subtask_start|> <|comm|> <|comm|> <|comm|> <|comm|> |
| opener_is_sampled | true |
false |
| protocol hash | 613e0ba1670f49912f128d99d7d2875f949ad6f1a7e240e9ed0000d86b98a48a |
c2f97f4c6f7a91d2325167f4fa306e7cf93d37db7d46db5cd56c857bfa34f697 |
| 数据集 | aime2024, aime2025, aime2026, math500, gsm8k | aime2024, aime2025, aime2026, math500, gsm8k(部分) |
两个 checkpoint 的 <|comm|> 与 <|subtask_start|> 前后顺序相反。两份 README 描述不一致,评测脚本必须与各自模型的 layout 对应,否则生成结构不可比。
公共解码设置:temperature=0、max_new_tokens=4096、max_block_tokens=512、num_samples=1、prompt 为原始题目(使用仓库 chat template)。
3. 目录结构
.
├── README.md
├── metrics_comparison.csv # 上表的机器可读版本
├── epoch1_primary_vs_rescored.csv
├── eval_config.json # 两个 checkpoint 的完整评测配置
├── epoch0/
│ ├── manifest.json # 运行清单:协议、代码哈希、环境哈希、GPU、命令
│ ├── status.json # 运行状态
│ ├── summary.json # 汇总指标(原始评分器)
│ ├── summary_rescored.json # 汇总指标(final-answer-v4 重新评分)
│ ├── results.jsonl.gz # 逐题结果(含完整 raw_output / token trace / score)
│ ├── results_rescored.jsonl.gz # 逐题结果(重新评分后)
│ ├── samples.tar.gz # 1909 个逐题独立 JSON 的归档
│ ├── rescore/ # 重新评分产物
│ │ ├── manifest.json
│ │ └── samples.tar.gz
│ └── reports/ # 人读报告:总体、MATH-500 by subject / by level、异常清单
├── epoch1/
│ ├── aime_math/ # 590 题:math500 + aime2024/2025/2026
│ │ ├── manifest.json status.json
│ │ ├── summary.json # 原始评分器 final-answer-v2
│ │ ├── summary_rescored.json # final-answer-v4
│ │ ├── results.jsonl.gz results_rescored.jsonl.gz
│ │ ├── samples.tar.gz
│ │ ├── rescore/{manifest.json, samples.tar.gz}
│ │ └── reports/ # report_primary.md + report_rescored.md + CSV
│ └── gsm8k/ # 分片运行,未合并(shard2/3 未完成)
│ ├── shard0/ shard1/ # 各 330 题,已完成
│ │ ├── manifest.json manifest.before_protocol_migration.json
│ │ ├── status.json summary.json
│ │ └── samples.tar.gz
│ └── shard2/ shard3/ # 未完成:328/330、301/329
├── code/ # 评测代码快照(run_eval.py、scoring.py、rescore.py 等)
└── config/ # 环境锁定、数据集清单、模型快照校验、启动命令
关于压缩
逐题结果以两种形式保存,均已压缩(原始文本高度重复,gzip 后约为原来的 1/5.5):
results*.jsonl.gz— 全部题目在一个文件里,适合直接加载分析。samples.tar.gz— 每题一个 JSON 文件,按题目哈希命名,适合按 ID 定位单题。
两者内容等价。逐题独立 JSON 打包为 tar.gz 是为了规避上万个小于 1 MB 的文件逐个上传的开销。解压后即可还原为原 samples/ 目录:
tar -xzf epoch0/samples.tar.gz # 得到 samples/<sha256>.json
tar -xzf epoch0/rescore/samples.tar.gz # 得到 samples/<sha256>.json
内容与 results.jsonl.gz 解压后的逐行记录完全等价(同一道题的两份表示)。日常分析建议直接用 results.jsonl.gz:
import pandas as pd
df = pd.read_json("epoch0/results_rescored.jsonl.gz", lines=True) # pandas 按扩展名自动解压
df[["id", "benchmark", "score"]].head()
文件字段说明
summary*.json(未压缩):每个 benchmark 的completed/expected、correct、accuracy、coverage,以及score_statuses(判分状态分布)、extraction_counts(答案抽取方式)、stop_reasons(EOS / 预算截断)、分支结构统计、生成耗时与显存峰值。results*.jsonl.gz:gzip 压缩的 JSONL,一行一题,字段包括id、benchmark、question、answer(标准答案)、raw_output、scoring_text、output_tokens_trace(逐 token 的 region/block/role 标注)、structure、score、performance、protocol_hash。samples.tar.gz内的*.json:与results.jsonl.gz相同的单题记录,按题目哈希命名,便于按 ID 直接定位。reports/*.md/*.csv:由write_report.py生成的汇总报告与 MATH-500 分学科/分难度统计、异常样本清单。
4. 复现
评测代码位于 code/,各 manifest.json 的 code_sha256 字段记录了运行时每个脚本的哈希,可用于核对代码版本。
# 汇总指标
python code/write_report.py --run-dir <run_dir>
# 重新评分
python code/rescore.py --run-dir <run_dir> --scorer final-answer-v4
环境依赖见 config/requirements.lock.txt。
5. 已知问题
- Epoch 1 的 GSM8K 未跑完,没有合并后的
runs/fpa-epoch1-gsm8k-20261025/目录,只有 4 个分片。 - 两个 checkpoint 的 FPA layout 顺序相反(见第 2 节),跨 checkpoint 比较前需确认结构解析一致。
- 大量样本触发
sample_budget截断且分支未终止(见各summary*.json的stop_reasons、incomplete_branches_total),这会压低正确率,属于当前解码设置的固有限制。
- Downloads last month
- 232