|
# Dataset Summary |
|
This repository provides the mMARCO dataset. |
|
This dataset was created by translating the MS MARCO Passage Ranking dataset into 8 different languages. |
|
|
|
# Dataset Structure |
|
You can load mMARCO dataset by choosing a specific language. |
|
For each language, there are four splits. The first split contains all the passages from the dataset. The last two splits are the training and development queries. |
|
An example of 'collection' from portuguese looks as follows. |
|
``` |
|
{ |
|
"doc_id": "0", |
|
"document": "A presença da comunicação em meio às mentes científicas era igualmente importante para o sucesso do Projeto Manhattan como o intelecto científico era. A única nuvem pendurada sobre a impressionante conquista dos pesquisadores e engenheiros atômicos é o que seu sucesso realmente significava; centenas de milhares de vidas inocentes destruídas." |
|
} |
|
``` |
|
# Load Dataset |
|
An example to load the dataset: |
|
``` |
|
dataset = load_dataset('unicamp-dl/mmarco', language='portuguese') |
|
``` |
|
|
|
|
|
# Citation Information |
|
``` |
|
@misc{bonifacio2021mmarco, |
|
title={mMARCO: A Multilingual Version of the MS MARCO Passage Ranking Dataset}, |
|
author={Luiz Henrique Bonifacio and Israel Campiotti and Vitor Jeronymo and Roberto Lotufo and Rodrigo Nogueira}, |
|
year={2021}, |
|
eprint={2108.13897}, |
|
archivePrefix={arXiv}, |
|
primaryClass={cs.CL} |
|
} |
|
``` |
|
|