37b8560 1ce01a3 b47890f a5f6c80
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
--- configs: - config_name: default data_files: - split: train path: data/*.parquet language: - zh --- # Wikipedia-zhtw Filtered 此資料集使用 `huggingface/datatrove` 進行了系統性的資料清洗。 我們在清洗過程中應用了多種基於規則的過濾方法,移除許多過短、重複和含有噪聲的資料。