csl-1.8G-filtered / README.md
p208p2002's picture
Update README.md
3e7a5f7 verified
metadata
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/*.parquet
language:
  - zh

CSL 中文科學論文摘要資料集

資料來源: https://github.com/ydli-ai/CSL

此資料集使用 huggingface/datatrove 進行了系統性的資料清洗。

我們在清洗過程中應用了多種基於規則的過濾方法,移除許多過短、重複和含有噪聲的資料。