Hugging Face's logo

Datasets:
ComerX
/
forge-neoforge-cpt-v10-full

Tasks:
Text Generation
Modalities:
Tabular
Text
Formats:
json
Languages:
English
Russian
Size:
100K - 1M
Tags:
minecraft
forge
neoforge
modding
code
continued-pretraining
Libraries:
Datasets
Dask
Polars
Dataset card Data Studio Files
xet
 Community
1
forge-neoforge-cpt-v10-full / README.md
ComerX's picture
ComerX
Update README.md
5fd7fa2 verified
preview code
|
Raw History Blame Contribute Delete
8.24 kB
metadata 
task_categories:
  - text-generation
language:
  - en
  - ru
size_categories:
  - 100K<n<1M
configs:
  - config_name: all-reviewed-public
    data_files:
      - split: train
        path: dataset-public/all-reviewed-public/train-*.jsonl
      - split: validation
        path: dataset-public/all-reviewed-public/validation-*.jsonl
  - config_name: forge-1.20.1
    data_files:
      - split: train
        path: dataset-public/forge-1.20.1/train-*.jsonl
      - split: validation
        path: dataset-public/forge-1.20.1/validation-*.jsonl
  - config_name: neoforge-1.21.1
    data_files:
      - split: train
        path: dataset-public/neoforge-1.21.1/train-*.jsonl
      - split: validation
        path: dataset-public/neoforge-1.21.1/validation-*.jsonl
dataset_info:
  - config_name: all-reviewed-public
    features:
      - name: id
        dtype: string
      - name: text
        dtype: string
      - name: category
        dtype: string
      - name: subcategory
        dtype: string
      - name: content_type
        dtype: string
      - name: lang
        dtype: string
      - name: mc_versions
        sequence: string
      - name: loaders
        sequence: string
      - name: source_url
        dtype: string
      - name: repo_url
        dtype: string
      - name: commit_sha
        dtype: string
      - name: source_path
        dtype: string
      - name: source_blob_sha
        dtype: string
      - name: content_sha256
        dtype: string
      - name: chunk_index
        dtype: int64
      - name: chunking_method
        dtype: string
      - name: start_line
        dtype: int64
      - name: end_line
        dtype: int64
      - name: n_chars
        dtype: int64
      - name: n_bytes
        dtype: int64
      - name: n_tokens
        dtype: int64
      - name: tokenizer_repo
        dtype: string
      - name: tokenizer_revision
        dtype: string
      - name: quality_flags
        sequence: string
      - name: split
        dtype: string
      - name: role
        dtype: string
  - config_name: forge-1.20.1
    features:
      - name: id
        dtype: string
      - name: text
        dtype: string
      - name: category
        dtype: string
      - name: subcategory
        dtype: string
      - name: content_type
        dtype: string
      - name: lang
        dtype: string
      - name: mc_versions
        sequence: string
      - name: loaders
        sequence: string
      - name: source_url
        dtype: string
      - name: repo_url
        dtype: string
      - name: commit_sha
        dtype: string
      - name: source_path
        dtype: string
      - name: source_blob_sha
        dtype: string
      - name: content_sha256
        dtype: string
      - name: chunk_index
        dtype: int64
      - name: chunking_method
        dtype: string
      - name: start_line
        dtype: int64
      - name: end_line
        dtype: int64
      - name: n_chars
        dtype: int64
      - name: n_bytes
        dtype: int64
      - name: n_tokens
        dtype: int64
      - name: tokenizer_repo
        dtype: string
      - name: tokenizer_revision
        dtype: string
      - name: quality_flags
        sequence: string
      - name: split
        dtype: string
      - name: role
        dtype: string
  - config_name: neoforge-1.21.1
    features:
      - name: id
        dtype: string
      - name: text
        dtype: string
      - name: category
        dtype: string
      - name: subcategory
        dtype: string
      - name: content_type
        dtype: string
      - name: lang
        dtype: string
      - name: mc_versions
        sequence: string
      - name: loaders
        sequence: string
      - name: source_url
        dtype: string
      - name: repo_url
        dtype: string
      - name: commit_sha
        dtype: string
      - name: source_path
        dtype: string
      - name: source_blob_sha
        dtype: string
      - name: content_sha256
        dtype: string
      - name: chunk_index
        dtype: int64
      - name: chunking_method
        dtype: string
      - name: start_line
        dtype: int64
      - name: end_line
        dtype: int64
      - name: n_chars
        dtype: int64
      - name: n_bytes
        dtype: int64
      - name: n_tokens
        dtype: int64
      - name: tokenizer_repo
        dtype: string
      - name: tokenizer_revision
        dtype: string
      - name: quality_flags
        sequence: string
      - name: split
        dtype: string
      - name: role
        dtype: string
tags:
  - minecraft
  - forge
  - neoforge
  - modding
  - code
  - continued-pretraining
  - mappings
pretty_name: forge-neoforge-cpt-v10-full

forge-neoforge-cpt-v10-full — CPT-корпус по моддингу Minecraft (Forge 1.20.1 + NeoForge 1.21.1)

Воспроизводимый корпус для continued pretraining: 292 408 921 токен (Qwen/Qwen3.5-2B-Base @ b1485b2f, vocab 248066), 345 932 записи train+validation, 500 записей evaluation (holdout-репозитории вне train). Собран по spec v10 (пайплайн R1–R10)

Состав (глобальный уникальный корпус)

Категория Токены Доля
cat1_mod_source (исходники модов) 263.0M 89.9%
cat2_loader_api (Forge/NeoForge API, FML, патчи) 2.7M 0.9%
cat3_mixin (Mixin, MixinExtras) 0.6M 0.2%
cat4_official_docs (доки NeoForge/Forge) 0.7M 0.2%
cat5_mappings (кроссволки + raw) 6.0M 2.1%
cat6_repo_metadata (mods.toml, gradle, README) 16.9M 5.8%
cat7_russian (ru_ru.json, ру-доки, 1583 статьи ру-вики) 2.7M 0.9%

По версиям (записи могут входить в обе): 1.20.1 — 309 729 записей; 1.21.1 — 277 870. Суммы строк конфигов больше глобального корпуса: мультилоадерные записи входят в оба версионных представления (см. artifacts/pack_summary.json).

Источники и пайплайн

  • Discovery: Modrinth API v2 (обе цели × 4 сортировки, глубокая пагинация) → 37 988 проектов, 7 762 с GitHub source; фиксация commit_sha через git ls-remote; загрузка codeload tar.gz; 3 063 репозитория обработано
  • Русская Minecraft Wiki: MediaWiki API, plain extracts, ревизия (lastrevid/touched) и canonical URL в каждой записи
  • Маппинги: 4-way кроссволки 1.20.1 (7 075 классов) и 1.21.1 (7 878 классов, 100% покрытия) + raw yarn/tsrg в бюджете cat5
  • Chunking: whole_file при ≤4096 токенов, иначе line_boundary_depth0; жёсткий предел записи 8192 токенов (max в корпусе 8182)
  • Дедупликация: blob-sha1 + content_sha256 (точная) и MinHash 64 perm / banding 8×8 / Jaccard ≥ 0.92 (near-dup); детали в artifacts/dedup_stats.json
  • Полный отчёт о сборке и отклонениях: report.md

Схема записи 

{id, text, category, subcategory, content_type, lang, mc_versions[], loaders[],
 source_url, repo_url, commit_sha, source_path, source_blob_sha, content_sha256,
 chunk_index, chunking_method, start_line, end_line, n_chars, n_bytes, n_tokens,
 tokenizer_repo, tokenizer_revision, quality_flags[], split, role}

content_sha256 — хеш точного текста записи; source_url — пермалинк на файл в закоммиченной ревизии; JSON Schema — artifacts/schema.json.

Загрузка 

from datasets import load_dataset
ds = load_dataset('ComerX/forge-neoforge-cpt-v10-full', 'all-reviewed-public')
ds_f = load_dataset('ComerX/forge-neoforge-cpt-v10-full', 'forge-1.20.1')
ds_n = load_dataset('ComerX/forge-neoforge-cpt-v10-full', 'neoforge-1.21.1')

Целостность

  • SHA256SUMS.txt — чексуммы всех файлов репозитория
  • QA-гейты: схема 100%, ID уникальны, content_sha256 сходится, полная переверификация токенов (346 432/346 432), манифест↔шафлы 1:1 — artifacts/qa_gates.json

Ограничения

  • Код целевых версий подтверждён метаданными Modrinth и пином ревизии; покоммитная сверка gradle-деклараций не выполнялась
  • near-dup поиск работает по префиксу записи (4KB) — задокументированный компромисс
  • Записи не содержат лицензионных полей; происхождение каждой записи восстанавливается через source_url/repo_url/commit_sha