--- license: mit task_categories: - question-answering - text-generation - text-classification language: - zh tags: - chinese - traditional-chinese - instruction-following size_categories: - 1K= 4: # 只看前 5 条 break # 流式加载单个类型 chengyu_stream = load_dataset( "tonysong6462/COIG-CQIA-chinese-traditional", "chengyu", streaming=True ) for example in chengyu_stream['chengyu']: print(example) break ``` ## 📝 数据格式 每条数据包含以下字段: ```json { "input": "问题或指令文本", "output": "对应的回答或生成内容", "task_type": "任务类型(如 dict)", "domain": ["领域标签"], "metadata": "元数据信息", "answer_from": "答案来源(通常为 human)" } ``` ## 🎯 应用场景 - 繁体中文语言模型微调 - 指令跟随(Instruction Following)训练 - 中文文化知识问答 - 古文理解与翻译 - 多选题答题系统 ## 💡 Split 名称说明 每个配置都有独特的 split 名称,方便识别: - `all` → `train` split(标准命名) - `chengyu` → `chengyu` split - `poem` → `poem` split - `trad-multi-choice-100-2` → `multi_choice_100_2` split - `trad-multi-choice-100` → `multi_choice_100` split - `trad-multi-choice-40` → `multi_choice_40` split - `translate_classical_chinese` → `classical_chinese` split **重要提示**:加载单个配置时,记得使用对应的 split 名称! ## 💡 使用建议 - **训练模型**:使用 `"all"` 配置加载完整数据集(split: `train`) - **数据分析**:使用单独配置分别分析不同类型数据(使用各自的 split 名称) - **特定任务**:只加载相关配置(如古文翻译用 `translate_classical_chinese` 配置的 `classical_chinese` split) - **内存受限**:使用 `streaming=True` 流式加载 ## 📁 数据集结构 ``` COIG-CQIA-chinese-traditional/ ├── all/ # 所有数据(split: train) │ ├── chengyu.jsonl │ ├── poem.jsonl │ ├── trad-multi-choice-100-2.jsonl │ ├── trad-multi-choice-100.jsonl │ ├── trad-multi-choice-40.jsonl │ └── translate_classical_chinese.jsonl ├── chengyu/ # 成语(split: chengyu) │ └── train.jsonl ├── poem/ # 诗歌(split: poem) │ └── train.jsonl ├── trad-multi-choice-100-2/ # 多选题2(split: multi_choice_100_2) │ └── train.jsonl ├── trad-multi-choice-100/ # 多选题1(split: multi_choice_100) │ └── train.jsonl ├── trad-multi-choice-40/ # 多选题40(split: multi_choice_40) │ └── train.jsonl ├── translate_classical_chinese/ # 古文翻译(split: classical_chinese) │ └── train.jsonl └── README.md ``` ## 📜 许可证 MIT License - 继承自原始 COIG-CQIA 数据集 ## 🙏 致谢 本数据集源自 [m-a-p/COIG-CQIA](https://huggingface.co/datasets/m-a-p/COIG-CQIA),感谢原作者的贡献。 ## 📚 引用 如果您使用了本数据集,请引用原始 COIG-CQIA 数据集: ```bibtex @misc{coig-cqia, title={COIG-CQIA: Quality is All You Need for Chinese Instruction Fine-tuning}, author={MAP Team}, year={2024}, publisher={Hugging Face} } ``` ## 📧 联系方式 如有问题或建议,请通过 Hugging Face 讨论区反馈。