--- language: - tr - en license: cc-by-4.0 tags: - legal - embeddings - rag - bge-m3 - turkish configs: - config_name: emsal_kararlar data_files: "emsal_kararlar/*.parquet" - config_name: mevzuat data_files: "mevzuat/*.parquet" --- # Turkish Law & Legislation BGE-M3 Embeddings Language: [English](#english) | [Türkçe](#türkçe) --- ## English This dataset contains pre-computed embeddings for Turkish legal precedents (Supreme Court/Yargıtay and Council of State/Danıştay) and statutory legislation (codes and articles). It is formatted in Parquet and specifically optimized for **RAG (Retrieval-Augmented Generation)** pipelines using a "Multi-Index" architecture. ### 📊 Data Sources & Attribution * **Precedents Subsets:** Derived from the **[erdem-erdem/Turkish-Law-Documents-700k-clustered](https://huggingface.co/datasets/erdem-erdem/Turkish-Law-Documents-700k-clustered)** dataset. The original public records belong to: * **Yargıtay** (Court of Appeals): [https://karararama.yargitay.gov.tr/](https://karararama.yargitay.gov.tr/) * **Danıştay** (Council of State): [https://kararara.danistay.gov.tr/](https://kararara.danistay.gov.tr/) *(Special thanks to researchers of the underlying source datasets: `fikriokan/ygty`, `fikriokan/ygty-2`, `fikriokan/dnsy-1`, `fikriokan/dnsy-2`)* * **Legislation Subsets:** Gathered, structured, and vectorized from the following official Turkish core codes and statutory laws: * **Anayasa** (Constitution) * **TMK** (Turkish Civil Code / Türk Medeni Kanunu) * **TBK** (Turkish Code of Obligations / Türk Borçlar Kanunu) * **TTK** (Turkish Commercial Code / Türk Ticaret Kanunu) * **TCK** (Turkish Penal Code / Türk Ceza Kanunu) * **CMK** (Criminal Procedure Code / Ceza Muhakemesi Kanunu) * **HMK** (Code of Civil Procedure / Hukuk Muhakemeleri Kanunu) * **İşK** (Labor Law / İş Kanunu) ### ⚙️ Data Processing Pipeline 1. **Legal Precedents (emsal_kararlar):** Long judicial texts were split using Langchain's `RecursiveCharacterTextSplitter`. * **Chunk Size:** 3000 characters. * **Chunk Overlap:** 500 characters. * **Separators:** `["\n\n", "\n", ".", " "]` to maintain semantic paragraphs and sentences. * Source fields were standardized from abbreviations like `ygty` or `dnsy` into "Yargıtay" and "Danıştay". 2. **Legislation & Codes (mevzuat):** * No chunking was applied due to the naturally concise length of law articles. * Metadatas were contextually enriched for better vector representations. * **Format:** `{Law Name} ({Short Name}) {Article No}: {Original Text}` * *Example:* `"Türkiye Cumhuriyeti Anayasası (Anayasa) Madde 2: Türkiye Cumhuriyeti, toplumun huzuru..."` ### 🧠 Model & Embedding Configuration * **Embedding Model:** [BAAI/bge-m3](https://huggingface.co/BAAI/bge-m3) (Multilingual) * **Vector Dimension:** 1024 * **Max Sequence Length:** 2048 (Configured to comfortably support 3000-character text chunks). * **Hardware & Acceleration:** Processed utilizing an NVIDIA A100 GPU in `torch.bfloat16` precision mode. ### 🗂️ Dataset Schema **1. Legal Precedents (`emsal_kararlar`):** * `doc_id` *(string)*: The original document ID. * `chunk_idx` *(int32)*: The index of the text chunk within the original document. * `text` *(string)*: The 3000-character chunked text used for embedding. * `kaynak` *(string)*: Source institution (Yargıtay or Danıştay). * `esas_no`, `karar_no`, `tarih` *(string)*: Judicial metadata regarding the specific decision. * `dokuman_tipi` *(string)*: Tagged as 'Emsal Karar' for multi-index filtering. * `vector` *(list[float32])*: 1024-dimensional embedding vector. **2. Legislation & Codes (`mevzuat`):** * `id` *(string)*: Systemic identifier (e.g., 'TMK_Madde_2'). * `kanun_adi`, `kanun_kisa_ad`, `madde_no` *(string)*: Legislative metadata. * `orijinal_metin` *(string)*: The pure text of the law article (best for returning to the user). * `text` *(string)*: The contextually enriched text fed into the embedding model. * `dokuman_tipi` *(string)*: Tagged as 'Mevzuat' for multi-index filtering. * `vector` *(list[float32])*: 1024-dimensional embedding vector. ### 🚀 How to Use (Python) You can load specific configurations using the Hugging Face `datasets` library: ```python from datasets import load_dataset # Load Statutory Legislation only legislation = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "mevzuat") # Load Legal Precedents only precedents = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "emsal_kararlar") ``` --- ## Türkçe Bu veri seti, Türk hukuku emsal kararları (Yargıtay ve Danıştay) ile kanun maddesi/mevzuat metinlerinin RAG (Retrieval-Augmented Generation) sistemlerinde doğrudan kullanılabilmesi için **BAAI/bge-m3** modeli kullanılarak üretilmiş vektörleri (embedding) içerir. Veriler "Multi-Index" veri tabanı mimarilerine uygun olarak iki farklı alt küme halinde düzenlenmiştir. ### 📊 Veri Kaynakları ve Atıflar * **Emsal Kararlar:** Geniş kapsamlı **[erdem-erdem/Turkish-Law-Documents-700k-clustered](https://huggingface.co/datasets/erdem-erdem/Turkish-Law-Documents-700k-clustered)** veri setinden türetilmiştir. Orijinal veriler şu kurumların kamuya açık resmi kayıtlarıdır: * **Yargıtay**: [https://karararama.yargitay.gov.tr/](https://karararama.yargitay.gov.tr/) * **Danıştay**: [https://kararara.danistay.gov.tr/](https://kararara.danistay.gov.tr/) *(Kaynak veri setlerinin hazırlanmasında emeği geçen `fikriokan/ygty`, `fikriokan/ygty-2`, `fikriokan/dnsy-1`, `fikriokan/dnsy-2` veri seti sahiplerine teşekkür ederiz.)* * **Mevzuat / Kanunlar:** Türkiye Cumhuriyeti resmi kanun maddeleri derlenerek yapılandırılmıştır. Veri seti şu ana kanunları ve temel mevzuatları kapsamaktadır: * **Anayasa** * **Türk Medeni Kanunu** (TMK) * **Türk Borçlar Kanunu** (TBK) * **Türk Ticaret Kanunu** (TTK) * **Türk Ceza Kanunu** (TCK) * **Ceza Muhakemesi Kanunu** (CMK) * **Hukuk Muhakemeleri Kanunu** (HMK) * **İş Kanunu** (İşK) ### ⚙️ Veri İşleme Süreci (Data Pipeline) 1. **Emsal Kararlar (emsal_kararlar):** Çok uzun mahkeme kararları, anlam bütünlüğü bozulmadan Langchain `RecursiveCharacterTextSplitter` ile parçalanmıştır. * **Parça Boyutu (Chunk Size):** 3000 karakter. * **Örtüşme (Overlap):** 500 karakter. * **Ayırıcılar (Separators):** `["\n\n", "\n", ".", " "]` (Parçalamanın paragraflardan ve cümlelerden yapılması sağlandı). * Kaynak adlarındaki `ygty` ve `dnsy` gibi kısaltmalar "Yargıtay" ve "Danıştay" olarak standardize edilmiştir. 2. **Mevzuat ve Kanunlar (mevzuat):** * Kanun maddeleri yapıları gereği kısa olduğundan parçalama (chunking) uygulanmamıştır. * Modelin bağlamı daha iyi kavrayabilmesi için metinler şu formatta zenginleştirilerek modele verilmiştir. * **Zengin Metin Formatı:** `{Kanun Adı} ({Kısa Ad}) {Madde No}: {Orijinal Metin}` * *Örnek:* `"Türkiye Cumhuriyeti Anayasası (Anayasa) Madde 2: Türkiye Cumhuriyeti, toplumun huzuru..."` ### 🧠 Model ve Vektör (Embedding) Detayları * **Model:** [BAAI/bge-m3](https://huggingface.co/BAAI/bge-m3) * **Vektör Boyutu (Dimension):** 1024 * **Maksimum Dizi Uzunluğu (Max Sequence Length):** 2048 (3000 karakterlik metin parçalarını kayıpsız işleyecek şekilde optimize edilmiştir). * **Donanım:** İşlemler NVIDIA A100 GPU üzerinde `torch.bfloat16` hassasiyetiyle gerçekleştirilmiştir. ### 🗂️ Sütun Yapısı (Dataset Schema) **1. Emsal Kararlar (`emsal_kararlar`):** * `doc_id` *(string)*: Kararın orijinal doküman ID'si. * `chunk_idx` *(int32)*: Dokümanın kaçıncı metin parçası olduğu. * `text` *(string)*: Vektörleştirilen 3000 karakterlik metin parçası. * `kaynak` *(string)*: İlgili kurum (Yargıtay veya Danıştay). * `esas_no`, `karar_no`, `tarih` *(string)*: İlgili kararın hukuki üst verileri (metadata). * `dokuman_tipi` *(string)*: Multi-index filtreleme için 'Emsal Karar' etiketi. * `vector` *(list[float32])*: 1024 boyutlu embedding vektörü. **2. Mevzuat ve Kanunlar (`mevzuat`):** * `id` *(string)*: Sistemsel kimlik (Örn: 'TMK_Madde_2'). * `kanun_adi`, `kanun_kisa_ad`, `madde_no` *(string)*: İlgili kanunun üst verileri. * `orijinal_metin` *(string)*: Kanunun saf hali (LLM'in kullanıcıya sunması için idealdir). * `text` *(string)*: Vektör modeline verilen zenginleştirilmiş bağlamlı metin. * `dokuman_tipi` *(string)*: Multi-index filtreleme için 'Mevzuat' etiketi. * `vector` *(list[float32])*: 1024 boyutlu embedding vektörü. ### 🚀 Kullanım Örneği (Python) Veri setini alt kümelerine göre şu şekilde projenize dahil edebilirsiniz: ```python from datasets import load_dataset # Sadece Kanun Maddelerini yüklemek için: mevzuat = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "mevzuat") # Sadece Emsal Kararları yüklemek için: emsal = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "emsal_kararlar") ```