metadata
license: cc-by-sa-4.0
language:
- zh
multilinguality:
- monolingual
pretty_name: wiki_tw
size_categories:
- 100M<n<1B
source_datasets:
- wikipedia
dataset_info:
features:
- name: title
dtype: string
- name: article
dtype: string
extra_gated_prompt: >-
You agree to not attempt to determine the identity of individuals in this
dataset
extra_gated_fields:
Company: text
Country: text
I agree to use this dataset for non-commercial use ONLY: checkbox
解析維基百科打包好的 bz2 檔案,解析出所需內容,利用 wikitextparser 移除 Wiki 標記。本資料檔是解析自維基百科 20230701 繁體中文版打包檔的內容。 解析後保留的欄位有兩個:條目名稱(title),條目內容(page article)。
原始的打包檔條目內容簡繁混雜,所以有利用 OpenCC 進行簡轉繁處理。
- 原始總條目數: 4,296,654 條目。
- 全部 4,296,249 個條目標題。
- 全部 4,296,249 個條目內容。
- 無法自動去標記的條目數: 5,415
- 有內容的條目數: 4,296,249