| --- |
| license: cc-by-4.0 |
| language: |
| - zh |
| - ug |
| - bo |
| - en |
| --- |
| |
| # CUTE Dataset |
|
|
| CUTE (Chinese, Uyghur, Tibetan, English) 是一个大规模多语言数据集，专门设计用于增强低资源语言的跨语言知识迁移。数据集包含平行语料和非平行语料两部分，总规模约50GB。 |
|
|
| ## 数据集组成 |
|
|
| ### 平行语料 (24.70GB) |
| - 中文：2.62GB |
| - 英语：3.49GB |
| - 维吾尔语：7.37GB |
| - 藏语：11.22GB |
|
|
| ### 非平行语料 (25.80GB) |
| - 中文：2.64GB |
| - 英语：3.49GB |
| - 维吾尔语：7.77GB |
| - 藏语：11.90GB |
|
|
| ## 数据质量 |
|
|
| 数据集通过机器翻译生成，并经过人工评估验证： |
| - 中英翻译平均得分：9.1 |
| - 中维翻译平均得分：8.5 |
| - 中藏翻译平均得分：8.6 |
|
|
| ## 使用说明 |
|
|
| ### ⚠️ 平行语料重要提醒 |
|
|
| **关于句对级对齐：** |
| - 四种语言的txt文件行数略有不同（如论文Table 2所示） |
| - 这是由于机器翻译过程中偶现的翻译行数不一致导致的（例如：一行中文可能翻译成两行维吾尔语） |
| - 目前只能保证**文档级平行**，无法实现严格的**句对级平行** |
|
|
| **数据特点：** |
| - 四种语言的文档整体平行度达到 99.98% |
| - 句子顺序可能存在错乱，但不影响大语言模型预训练 |
| - 适用于多语言预训练任务，而非句对级翻译任务 |
|
|
| ## 相关链接 |
|
|
| - 📝 [论文](https://aclanthology.org/2025.coling-main.670/) |
| - 🤖 [模型](https://huggingface.co/CMLI-NLP/CUTE-Llama) |
| - 📂 [GitHub](https://github.com/CMLI-NLP/CUTE) |
|
|
| ## 引用 |
|
|
| 如果您使用了我们的数据集，请引用我们的论文： |
|
|
| ```bibtex |
| @inproceedings{zhuang2025cute, |
| title={CUTE: A Multilingual Dataset for Enhancing Cross-Lingual Knowledge Transfer in Low-Resource Languages}, |
| author={Zhuang, Wenhao and Sun, Yuan}, |
| booktitle={Proceedings of the 31st International Conference on Computational Linguistics}, |
| pages={10037--10046}, |
| year={2025} |
| } |
| ``` |
