configs: | |
- config_name: default | |
data_files: | |
- split: train | |
path: data/*.parquet | |
language: | |
- zh | |
# CSL 中文科學論文摘要資料集 | |
資料來源: https://github.com/ydli-ai/CSL | |
此資料集使用 [huggingface/datatrove](https://github.com/huggingface/datatrove) 進行了系統性的資料清洗。 | |
我們在清洗過程中應用了多種基於規則的過濾方法,移除許多過短、重複和含有噪聲的資料。 |