cosmopedia-zhtw

HuggingFaceTB/cosmopedia 的台灣正體中文譯本。用於累積台灣本地的預訓練語料。

這是持續產出的專案，不是已完成的資料集

來源共 31,064,918 列（336 個檔案、85.9 GB、8 個子集）。翻譯是持續進行的， 分片隨時上傳，目前的檔案數就是目前的進度。要多少資料由使用計畫決定， 隨時可停、隨時可續。請以實際檔案為準，不要假設已經全量完成。

欄位

欄位	說明
uid	唯一鍵，格式 config:檔案代號:檔內列序（見下方說明）
config	來源子集：web_samples_v1/web_samples_v2/stories/auto_math_text/stanford/wikihow/openstax/khanacademy
text	英文原文
text_zhtw	正體中文譯文
format、audience、seed_data	來源自帶的中繼資料，原樣保留
text_token_length	來源對英文原文的 token 統計，與譯文無關
chunk_count	該列被切成幾塊翻譯（長文會在段落邊界切塊）
translation_error	true 代表該列有至少一塊沒翻成功，建議過濾掉

關於 uid

來源資料集不含任何識別欄位，因此唯一鍵由來源檔案位置構造： {config}:{檔案代號}:{檔內列序}，例如 stories:train-00040:0000123。

選位置而不選內容雜湊，是因為 cosmopedia 是合成語料，重複或近重複的 text 完全可能存在，雜湊會讓不同列塌成同一個鍵。位置鍵則是建構上唯一。 發佈前已驗證 336 個檔案前綴互不重複，並實跑讀取邏輯確認檔內列序連續不重。

翻譯品質

每一塊譯文都會經過自動守門檢查，命中就換參數重譯（最多兩次）， 攔截的項目包括：系統提示詞洩漏、原文照抄未翻、譯文幾乎不含中文、 控制符號殘留。仍未通過的會標在 translation_error。

翻譯要求包含：禁用簡體字與中國大陸慣用語（一律台灣慣用詞）、 中英文標點的全形／半形混排規則、保留原文段落結構。

已知限制

• 長文以約 4,000 字元在段落邊界切塊後分別翻譯再接回，跨塊的指涉可能不夠連貫。
• 自動守門無法涵蓋所有品質問題；translation_error 為 false 不等於完美。
• 繁簡與用語的人工判讀尚未全面完成。

授權與引用

原始資料集的授權與使用條款以 HuggingFaceTB/cosmopedia 為準。本譯本僅提供翻譯結果，不改變原始授權。