| # Ko-StrategyQA | |
| 이 데이터셋은 [StrategyQA](https://allenai.org/data/strategyqa)의 한국어 버전입니다. | |
| 기존 데이터셋의 모든 질문과 단락들을 [DeepL](https://www.deepl.com/translator)을 사용하여 번역했습니다. | |
| ## 데이터셋 설명 | |
| 이 데이터셋은 [StrategyQA](https://allenai.org/data/strategyqa)의 한국어 버전입니다. | |
| StrategyQA는 오픈 도메인 질의 응답 태스크 분야에서 multi-hop 질문들만을 모아 놓은 데이터셋입니다. | |
| 오픈 도메인 질의 응답(ODQA)은 특정한 도메인 없이, 일반적인 지식 분야에서 질문에 대한 올바른 응답을 하는 인공지능 모델을 만드는 태스크입니다. | |
| multi-hop 질문들은 한 질문에 답하기 위하여 두 가지 이상의 사실을 두 가지 이상의 단락들에서 알아내야만 하는 질문들입니다. | |
| 이 데이터셋을 활용하여 multi-hop 질문들을 해결하기 위해 복수 개의 단락을 자동으로 단락 뭉치에서 검색하고 찾아낼 수 있는 성능을 측정할 수 있습니다. | |
| 또한, 거대 언어 모델 (LLM) 등의 언어 모델이 multi-hop 질문들에 정답을 말하는지 성능을 측정할 수 있습니다. | |
| 해당 데이터셋은 예/아니오 로만 답할 수 있는 질문들로만 이루어 져 있습니다. | |
| 이 데이터셋에서는 질문 분리에 대한 메트릭인 SARI는 아직 측정할 수 없습니다. | |
| ## 평가 | |
| 이 [레포](https://github.com/edai-club/KoPrivateGPT/tree/main/evaluate/strategyQA)에서 평가 코드를 볼 수 있습니다. 정확도(Accruacy)와 Recall@10을 지원합니다. | |
| ## 파일 설명 | |
| - ```ko-strategyqa_full.json``` : 질문, 설명, 사용된 단락들, 사용된 사실들, 분해한 질문들이 모두 들어있습니다. | |
| - ```ko-strategyqa_train.json``` : 전체 데이터셋의 train set입니다. **주의** 이 train set은 공식 train set과 차이가 있습니다! Ko-StrategyQA 제작자가 임의로 자른 것이므로 유의해주세요. | |
| - ```ko-strategyqa_dev.json``` : 교차 검증을 위한 전체 데이터셋의 dev set입니다. **주의** 이 dev set은 공식 dev set과 차이가 있습니다! Ko-StrategyQA 제작자가 임의로 자른 것이므로 유의해주세요. | |
| - ```ko-strategyqa_test.json``` : 공식 StrategyQA [리더보드](https://leaderboard.allenai.org/strategyqa/submissions/public) 등재를 위한 test 질문들의 한국어 버전입니다. | |
| - ```ko-strategyqa_paragraphs.csv``` : 모든 단락들입니다. | |
| - ```ko-strategyqa_paragraphs.parquet``` : 모든 단락들의 parquet 파일 버전입니다. | |
| This dataset is Korean version of [StrategyQA](https://allenai.org/data/strategyqa). | |
| We translated all questions and paragraphs to Korean using [DeepL](https://www.deepl.com/translator). | |
| ## Overview | |
| This dataset is Korean version of StrategyQA. Strategy QA is multi-hop question datasets for open-domain question answering (ODQA). | |
| For answering all questions in this dataset, the model must know multiple facts from multiple paragraphs. | |
| You can measure performance of retriever system for multi-hop questions. | |
| All questions answer is Ture or False questions, so you can measure model's performance by accuracy. | |
| In korean version, you can't measure SARI yet, metrics that measure question decomposition. | |
| ## Dataset Files | |
| - ```ko-strategyqa_full.json``` : full questions, descriptions, decomposition, facts, evidence. | |
| - ```ko-strategyqa_train.json``` : train set from full dataset. **Warning!** Our split is not official train set of StrategyQA. Questions may be different with official StrategyQA train dataset. | |
| - ```ko-strategyqa_dev.json``` : dev set from full dataset. **Warning!** Our split is not official dev (validation) set of StrategyQA. Questions may be different with official StrategyQA dev dataset. | |
| - ```ko-strategyqa_test.json``` : test questions from official StrategyQA [leaderboard](https://leaderboard.allenai.org/strategyqa/submissions/public) | |
| - ```ko-strategyqa_paragraphs.csv``` : all paragraphs (contexts) | |
| - ```ko-strategyqa_paragraphs.parquet``` : all paragraphs (contexts) to parquet file. | |
| ## Evaluation | |
| You can evaluate this dataset at this [repo](https://github.com/edai-club/KoPrivateGPT/tree/main/evaluate/strategyQA). We support Recall@10 and Accuracy metrics. | |
| ## License | |
| Apache 2.0 license | |