---
language:
- zh
- en
license: apache-2.0
task_categories:
- text-generation
tags:
- synthetic
- pretraining
- traditional-chinese
- taiwan
size_categories:
- 10M<n<100M
configs:
- config_name: default
  data_files:
  - split: train
    path: data/*/*.parquet
---

# cosmopedia-zhtw

[HuggingFaceTB/cosmopedia](https://huggingface.co/datasets/HuggingFaceTB/cosmopedia)
的**台灣正體中文**譯本。用於累積台灣本地的預訓練語料。

## 這是持續產出的專案，不是已完成的資料集

來源共 **31,064,918 列**（336 個檔案、85.9 GB、8 個子集）。翻譯是持續進行的，
分片隨時上傳，**目前的檔案數就是目前的進度**。要多少資料由使用計畫決定，
隨時可停、隨時可續。請以實際檔案為準，不要假設已經全量完成。

## 欄位

| 欄位 | 說明 |
|---|---|
| `uid` | 唯一鍵，格式 `config:檔案代號:檔內列序`（見下方說明） |
| `config` | 來源子集：`web_samples_v1`/`web_samples_v2`/`stories`/`auto_math_text`/`stanford`/`wikihow`/`openstax`/`khanacademy` |
| `text` | 英文原文 |
| `text_zhtw` | 正體中文譯文 |
| `format`、`audience`、`seed_data` | 來源自帶的中繼資料，原樣保留 |
| `text_token_length` | 來源對**英文原文**的 token 統計，與譯文無關 |
| `chunk_count` | 該列被切成幾塊翻譯（長文會在段落邊界切塊） |
| `translation_error` | `true` 代表該列有至少一塊沒翻成功，建議過濾掉 |

### 關於 `uid`

來源資料集**不含任何識別欄位**，因此唯一鍵由來源檔案位置構造：
`{config}:{檔案代號}:{檔內列序}`，例如 `stories:train-00040:0000123`。

選位置而不選內容雜湊，是因為 cosmopedia 是合成語料，重複或近重複的 `text`
完全可能存在，雜湊會讓不同列塌成同一個鍵。位置鍵則是**建構上唯一**。
發佈前已驗證 336 個檔案前綴互不重複，並實跑讀取邏輯確認檔內列序連續不重。

## 翻譯品質

每一塊譯文都會經過自動守門檢查，命中就換參數重譯（最多兩次），
攔截的項目包括：系統提示詞洩漏、原文照抄未翻、譯文幾乎不含中文、
控制符號殘留。仍未通過的會標在 `translation_error`。

翻譯要求包含：禁用簡體字與中國大陸慣用語（一律台灣慣用詞）、
中英文標點的全形／半形混排規則、保留原文段落結構。

### 已知限制

- 長文以約 4,000 字元在段落邊界切塊後分別翻譯再接回，跨塊的指涉可能不夠連貫。
- 自動守門無法涵蓋所有品質問題；`translation_error` 為 `false` 不等於完美。
- 繁簡與用語的人工判讀尚未全面完成。

## 授權與引用

原始資料集的授權與使用條款以
[HuggingFaceTB/cosmopedia](https://huggingface.co/datasets/HuggingFaceTB/cosmopedia)
為準。本譯本僅提供翻譯結果，不改變原始授權。