Datasets:
Dataset Card for Sky-T1_data_17k-zh-tw
本資料集是 NovaSky-AI/Sky-T1_data_17k 的台灣繁體中文(zh-TW)翻譯子集,經多輪清洗與過濾後保留 5,194 筆推理對話,涵蓋數學、物理、化學與程式等需要逐步推理的題型。
Dataset Details
Dataset Description
Sky-T1 是 NovaSky 團隊用於訓練 Sky-T1-32B 的推理語料。本資料集取其中一部分翻譯為台灣在地用語的繁體中文,並經過數輪格式清理與品質過濾。
- Curated by: 黃亮勳(Huang Liang Hsun)
- Language(s) (NLP): zh-TW
- License: apache-2.0(沿用上游 NovaSky-AI/Sky-T1_data_17k 的授權)
Dataset Sources
- Upstream dataset: NovaSky-AI/Sky-T1_data_17k
Uses
Direct Use
- 訓練或微調繁體中文推理模型(chain-of-thought SFT)
- 作為中文推理能力的小規模評估或暖身語料
Out-of-Scope Use
- 直接作為事實或學術知識來源。推理內容為模型生成且未經人工查核
Dataset Structure
資料以 Parquet 格式存放於 data/,共 5,194 筆:
data/train-00000-of-00001.parquet
可直接載入:
from datasets import load_dataset
ds = load_dataset("lianghsun/Sky-T1_data_17k-zh-tw", split="train")
每筆欄位:
| 欄位 | 型別 | 說明 |
|---|---|---|
conversations |
list<struct<from: string, value: string>> |
翻譯後的對話,from 為 human 或 gpt |
Dataset Creation
Curation Rationale
繁體中文的逐步推理語料稀少,且多數中文推理資料集使用中國大陸用語。本資料集以台灣用語為翻譯目標。
Source Data
Data Collection and Processing
- 自上游 Sky-T1_data_17k 取樣,翻譯為繁體中文(初始 6,020 筆)
- 翻譯經 OpenCC
s2twp轉換,統一為台灣正體用字與慣用詞 - 多輪清洗(
src/modify.py):修正格式、標點與中英夾雜的空白,6,020 → 5,365 筆 - 最終過濾(
src/filter.py):移除品質不佳或格式損壞的樣本,5,365 → 5,194 筆
清洗與過濾的腳本一併收錄於 src/,可供重現。
Who are the source data producers?
上游資料由 NovaSky-AI 團隊產生;本資料集的翻譯與清洗為自動化流程。
Personal and Sensitive Information
內容為數理與科學推理題目,未刻意收集個人資料。
Bias, Risks, and Limitations
- 翻譯品質未經人工校對,可能有誤譯、術語不一致,或 LaTeX 在少數樣本中損壞
- 推理內容本身可能是錯的:上游為模型生成,思考過程與最終答案皆未經驗證
- 規模小(5,194 筆),單獨使用不足以訓練推理能力,建議與其他語料混合
- 清洗步驟以規則為主,可能誤刪正常樣本,也可能漏掉部分有問題的樣本
Recommendations
建議使用者抽樣檢查翻譯品質後再投入訓練,並視需求自行加上答案驗證。
Citation
若使用本資料集,請一併引用上游資料集 NovaSky-AI/Sky-T1_data_17k。
Dataset Card Contact
透過 Hugging Face 上的 lianghsun 聯繫。
- Downloads last month
- 15