File size: 343 Bytes
37b8560
 
 
 
 
 
 
 
 
1ce01a3
b47890f
a5f6c80
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
---
configs:
- config_name: default
  data_files:
  - split: train
    path: data/*.parquet
language:
- zh
---

# Wikipedia-zhtw Filtered

此資料集使用 `huggingface/datatrove` 進行了系統性的資料清洗。

我們在清洗過程中應用了多種基於規則的過濾方法,移除許多過短、重複和含有噪聲的資料。