Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

reciTAL/mlsum(複製)

データの内容

ドイツ語、フランス語、スペイン語、ロシア語、トルコ語のオンライン新聞の記事に、要約を付けたデータ。1 行が 1 件の記事で、本文は text、要約は summary、トピックは topic に入る。カードの対応タスクと言語の項目は未記入のままである。

データの概要

項目 値
行数 1,259,096(5 構成・15 分割の合計)
列数 6
容量 15.91 KB(ファイル 3 本)
ファイルの形式 py 1
言語 de, es, fr, ru, tr
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
de train 220,887、validation 11,394、test 10,701 6
es train 266,367、validation 10,358、test 13,920 6
fr train 392,902、validation 16,059、test 15,828 6
ru train 25,556、validation 750、test 757 6
tu train 249,277、validation 11,565、test 12,775 6

列(構成 de。どの構成も同じ列)

列 型
text string
summary string
topic string
url string
title string
date string

行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

reciTAL/mlsum をリビジョン 0f8114e036015f81e877e8a1950ce2713d7afe8d の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

アノテーションの方法

作成の根拠

More Information Needed

初期データの収集と正規化

More Information Needed

アノテーションの過程

More Information Needed

データセットの作成者

More Information Needed

微調整に使うときの注意

  • 調査メモの台帳での区分: D(記載なし・other・unknown・資料間の食い違い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
multilingual_cjk.md 5. その他の言語(広がり確保用) (L261) other 確認済 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: script同梱

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


MLSUM のデータセットカード

目次

  • データセットの説明
    • データセットの概要
    • 対応するタスクとリーダーボード
    • 言語
  • データセットの構造
    • データの実例
    • データのフィールド
    • データの split
  • データセットの作成
    • 作成の根拠
    • 元データ
    • アノテーション
    • 個人情報と機微な情報
  • データの利用上の考慮事項
    • データセットの社会的影響
    • バイアスの議論
    • その他の既知の制限
  • 追加情報
    • データセットの作成者
    • ライセンス情報
    • 引用情報
    • 貢献

データセットの説明

データセットの概要

MLSUM を提示する。これは最初の大規模な多言語要約データセットである。 オンライン新聞から得られ、フランス語、ドイツ語、スペイン語、ロシア語、トルコ語の 5 言語で、150 万件を超える記事と要約のペアを含む。 人気のある CNN/Daily Mail データセットの英語の新聞と合わせると、収集したデータは大規模な多言語データセットを構成し、要約研究のコミュニティに新たな研究の方向性をもたらしうる。 最先端のシステムに基づき、言語間の比較分析を報告する。 これらの分析は既存のバイアスを明らかにし、多言語データセットを使う動機となる。

対応するタスクとリーダーボード

More Information Needed

言語

More Information Needed

データセットの構造

データの実例

de

  • ダウンロードしたデータセットファイルのサイズ: 346.58 MB
  • 生成されたデータセットのサイズ: 940.93 MB
  • ディスクの使用量の合計: 1.29 GB

'validation' の例は次のとおり。

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

es

  • ダウンロードしたデータセットファイルのサイズ: 513.31 MB
  • 生成されたデータセットのサイズ: 1.34 GB
  • ディスクの使用量の合計: 1.85 GB

'validation' の例は次のとおり。

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

fr

  • ダウンロードしたデータセットファイルのサイズ: 619.99 MB
  • 生成されたデータセットのサイズ: 1.61 GB
  • ディスクの使用量の合計: 2.23 GB

'validation' の例は次のとおり。

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

ru

  • ダウンロードしたデータセットファイルのサイズ: 106.22 MB
  • 生成されたデータセットのサイズ: 276.17 MB
  • ディスクの使用量の合計: 382.39 MB

'train' の例は次のとおり。

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

tu

  • ダウンロードしたデータセットファイルのサイズ: 247.50 MB
  • 生成されたデータセットのサイズ: 694.99 MB
  • ディスクの使用量の合計: 942.48 MB

'train' の例は次のとおり。

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

データのフィールド

データのフィールドは、すべての split で同じである。

de

  • text: 文字列型の特徴量。
  • summary: 文字列型の特徴量。
  • topic: 文字列型の特徴量。
  • url: 文字列型の特徴量。
  • title: 文字列型の特徴量。
  • date: 文字列型の特徴量。

es

  • text: 文字列型の特徴量。
  • summary: 文字列型の特徴量。
  • topic: 文字列型の特徴量。
  • url: 文字列型の特徴量。
  • title: 文字列型の特徴量。
  • date: 文字列型の特徴量。

fr

  • text: 文字列型の特徴量。
  • summary: 文字列型の特徴量。
  • topic: 文字列型の特徴量。
  • url: 文字列型の特徴量。
  • title: 文字列型の特徴量。
  • date: 文字列型の特徴量。

ru

  • text: 文字列型の特徴量。
  • summary: 文字列型の特徴量。
  • topic: 文字列型の特徴量。
  • url: 文字列型の特徴量。
  • title: 文字列型の特徴量。
  • date: 文字列型の特徴量。

tu

  • text: 文字列型の特徴量。
  • summary: 文字列型の特徴量。
  • topic: 文字列型の特徴量。
  • url: 文字列型の特徴量。
  • title: 文字列型の特徴量。
  • date: 文字列型の特徴量。

データの split

name train validation test
de 220887 11394 10701
es 266367 10358 13920
fr 392902 16059 15828
ru 25556 750 757
tu 249277 11565 12775

データセットの作成

作成の根拠

More Information Needed

元データ

初期データの収集と正規化

More Information Needed

元の言語の生成者は誰か?

More Information Needed

アノテーション

アノテーションの過程

More Information Needed

アノテーターは誰か?

More Information Needed

個人情報と機微な情報

More Information Needed

データの利用上の考慮事項

データセットの社会的影響

More Information Needed

バイアスの議論

More Information Needed

その他の既知の制限

More Information Needed

追加情報

データセットの作成者

More Information Needed

ライセンス情報

このデータセットの利用は、非商用の研究目的に限られる。著作権は原著作権者に帰属する。詳細は https://github.com/recitalAI/MLSUM#mlsum を参照されたい。

引用情報

@article{scialom2020mlsum,
  title={MLSUM: The Multilingual Summarization Corpus},
  author={Scialom, Thomas and Dray, Paul-Alexis and Lamprier, Sylvain and Piwowarski, Benjamin and Staiano, Jacopo},
  journal={arXiv preprint arXiv:2004.14900},
  year={2020}
}

貢献

このデータセットを追加してくれた @RachelKer、@albertvillanova、@thomwolf に感謝する。

原文(英語)

Dataset Card for MLSUM

Dataset Summary

We present MLSUM, the first large-scale MultiLingual SUMmarization dataset. Obtained from online newspapers, it contains 1.5M+ article/summary pairs in five different languages -- namely, French, German, Spanish, Russian, Turkish. Together with English newspapers from the popular CNN/Daily mail dataset, the collected data form a large scale multilingual dataset which can enable new research directions for the text summarization community. We report cross-lingual comparative analyses based on state-of-the-art systems. These highlight existing biases which motivate the use of a multi-lingual dataset.

Supported Tasks and Leaderboards

More Information Needed

Languages

More Information Needed

Dataset Structure

Data Instances

de

  • Size of downloaded dataset files: 346.58 MB
  • Size of the generated dataset: 940.93 MB
  • Total amount of disk used: 1.29 GB

An example of 'validation' looks as follows.

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

es

  • Size of downloaded dataset files: 513.31 MB
  • Size of the generated dataset: 1.34 GB
  • Total amount of disk used: 1.85 GB

An example of 'validation' looks as follows.

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

fr

  • Size of downloaded dataset files: 619.99 MB
  • Size of the generated dataset: 1.61 GB
  • Total amount of disk used: 2.23 GB

An example of 'validation' looks as follows.

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

ru

  • Size of downloaded dataset files: 106.22 MB
  • Size of the generated dataset: 276.17 MB
  • Total amount of disk used: 382.39 MB

An example of 'train' looks as follows.

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

tu

  • Size of downloaded dataset files: 247.50 MB
  • Size of the generated dataset: 694.99 MB
  • Total amount of disk used: 942.48 MB

An example of 'train' looks as follows.

{
    "date": "01/01/2001",
    "summary": "A text",
    "text": "This is a text",
    "title": "A sample",
    "topic": "football",
    "url": "https://www.google.com"
}

Data Fields

The data fields are the same among all splits.

de

  • text: a string feature.
  • summary: a string feature.
  • topic: a string feature.
  • url: a string feature.
  • title: a string feature.
  • date: a string feature.

es

  • text: a string feature.
  • summary: a string feature.
  • topic: a string feature.
  • url: a string feature.
  • title: a string feature.
  • date: a string feature.

fr

  • text: a string feature.
  • summary: a string feature.
  • topic: a string feature.
  • url: a string feature.
  • title: a string feature.
  • date: a string feature.

ru

  • text: a string feature.
  • summary: a string feature.
  • topic: a string feature.
  • url: a string feature.
  • title: a string feature.
  • date: a string feature.

tu

  • text: a string feature.
  • summary: a string feature.
  • topic: a string feature.
  • url: a string feature.
  • title: a string feature.
  • date: a string feature.

Data Splits

name train validation test
de 220887 11394 10701
es 266367 10358 13920
fr 392902 16059 15828
ru 25556 750 757
tu 249277 11565 12775

Dataset Creation

Curation Rationale

More Information Needed

Source Data

Initial Data Collection and Normalization

More Information Needed

Who are the source language producers?

More Information Needed

Annotations

Annotation process

More Information Needed

Who are the annotators?

More Information Needed

Personal and Sensitive Information

More Information Needed

Considerations for Using the Data

Social Impact of Dataset

More Information Needed

Discussion of Biases

More Information Needed

Other Known Limitations

More Information Needed

Additional Information

Dataset Curators

More Information Needed

Licensing Information

Usage of dataset is restricted to non-commercial research purposes only. Copyright belongs to the original copyright holders. See https://github.com/recitalAI/MLSUM#mlsum

Citation Information

@article{scialom2020mlsum,
  title={MLSUM: The Multilingual Summarization Corpus},
  author={Scialom, Thomas and Dray, Paul-Alexis and Lamprier, Sylvain and Piwowarski, Benjamin and Staiano, Jacopo},
  journal={arXiv preprint arXiv:2004.14900},
  year={2020}
}

Contributions

Thanks to @RachelKer, @albertvillanova, @thomwolf for adding this dataset.

Downloads last month
84

Paper for HYUKI5/reciTAL__mlsum