| --- |
| language: |
| - tr |
| license: cc-by-4.0 |
| task_categories: |
| - question-answering |
| - text-retrieval |
| tags: |
| - medical |
| - turkish |
| - rag |
| - embeddings |
| - vector-search |
| size_categories: |
| - 1K<n<10K |
| --- |
| |
| # Turkish Medical RAG — Vektör Arama ve Eşik Yönetimi |
|
|
| > **Teslim formatı:** Hugging Face Dataset Reposu |
| > **Kapsam:** Türkçe tıbbi makaleler üzerinde RAG pipeline'ının retrieval + abstention katmanı. |
|
|
| --- |
|
|
| ## 1. Veri Seti |
|
|
| **Kaynak:** `umutertugrul/turkish-hospital-medical-articles` |
| **Seçilen hastaneler:** Acıbadem, Memorial, Medicana |
|
|
| ### Temizlik Akışı |
|
|
| | Adım | Kalan Kayıt | |
| |---|---| |
| | Ham makale (3 kaynak) | 13.840 | |
| | Boilerplate temizliği (471 kalıp) | 13.551 | |
| | Minimum karakter filtresi (≥300) | 13.516 | |
| | Exact dedup | 13.275 | |
| | Near-dup (MinHash LSH, Jaccard ≥ 0.85) | 13.085 | |
| | Dengeli örnekleme (seed=42) | **400** | |
|
|
| **Kaynak dağılımı:** Acıbadem 177 · Memorial 158 · Medicana 65 |
|
|
| **Boilerplate tespiti:** Corpus genelinde ≥15 kez tekrar eden satırlar frekans analizi ile otomatik tespit edilip çıkarıldı. Sabit regex yerine veri-güdümlü yaklaşım tercih edildi. |
|
|
| **Near-dup:** MinHash + LSH ile Jaccard ≥ 0.85 olan çiftlerin yalnızca biri tutuldu. |
|
|
| --- |
|
|
| ## 2. Chunking Stratejisi |
|
|
| **Seçilen yöntem:** Fixed-token (sabit pencere + overlap) |
| **Parametreler:** `max_tokens=400 · overlap=64` |
|
|
| ### Neden 400 token? |
|
|
| | Metrik | Değer | |
| |---|---| |
| | Median | 1.238 token | |
| | 95. yüzdelik | 3.289 token | |
| | Maksimum | 7.462 token | |
| | 450+ token makale | 380 / 400 (%95) | |
|
|
| Makalelerin %95'i 450 token'ı aşıyor; chunking zorunlu. Benchmark'taki ikinci model **ytu-ce-cosmos/turkish-e5-large** 512 token limitine sahip. Adil karşılaştırma için her iki modele de sığacak boyut olan **400 token** seçildi. Böylece e5'in truncation kayıpları karşılaştırmayı çarpıtmaz. |
|
|
| **Overlap = 64 token:** Cümle sınırlarında kopan bağlamı korur. |
|
|
| **Sonuç:** 400 makaleden **1.892 chunk** (ort. 4,7 chunk/makale). |
|
|
| --- |
|
|
| ## 3. Embedding Modeli |
|
|
| İki model benchmark edildi: |
|
|
| | Model | Boyut | Context | |
| |---|---|---| |
| | `magibu/embeddingmagibu-200m` | 768 | 8.192 token | |
| | `ytu-ce-cosmos/turkish-e5-large` | 1.024 | 512 token | |
|
|
| ### Seçim: `magibu/embeddingmagibu-200m` (768 boyut) |
|
|
| Retrieval metrikleri iki modelde neredeyse özdeş (F1=0.974, Precision=1.000). Tercih gerekçeleri: |
|
|
| 1. **Üretim dayanıklılığı:** magibu'nun optimal threshold'u 0.583, e5'inki 0.643. Daha geniş ayrışma bölgesi, threshold ince ayarını kolaylaştırır. |
| 2. **8.192 token context:** Uzun tıbbi dokümanlar için yapısal avantaj. |
| 3. **Prompt ayrımı:** `prompt_name="document"` / `prompt_name="query"` ayrımı doğru uygulandı. |
|
|
| **Normalizasyon:** Tüm vektörler L2 normalize edildi; cosine similarity = dot product. |
|
|
| --- |
|
|
| ## 4. Vektör Veritabanı Şeması |
|
|
| **Teknoloji:** ChromaDB (PersistentClient, `hnsw:space: cosine`) |
|
|
| | Alan | Tip | Açıklama | |
| |---|---|---| |
| | `chunk_id` | string | Benzersiz kimlik (`chunk_00000`) | |
| | `doc_id` | string | Üst makale kimliği — SHA1(url)[:12] | |
| | `url` | string | Orijinal makale URL'i | |
| | `title` | string | Makale başlığı | |
| | `__source` | string | Kaynak hastane | |
| | `chunk_index` | int | Makale içindeki sıra | |
| | `chunk_text` | string | Parçalanmış metin | |
| | `chunk_vector` | float[] | 768 boyutlu embedding | |
|
|
| **Parent-Child:** Her chunk `doc_id` ile üst makaleye bağlıdır; tam bağlam `articles_clean.parquet`'ten çekilebilir. |
|
|
| --- |
|
|
| ## 5. Test Seti |
|
|
| **Toplam:** 30 soru (`data/test_set.jsonl`) |
|
|
| | Tür | Adet | Açıklama | |
| |---|---|---| |
| | Pozitif | 20 | Ground-truth chunk_id etiketli | |
| | Negatif (zor) | 5 | Tıbbi ama veri setinde yok (Parkinson, MS vb.) | |
| | Negatif (kolay) | 5 | Tamamen alakasız konular | |
| |
| **Zor negatifler** threshold'u stres testine tabi tutar; yalnızca kolay negatif kullanmak eşik seçimini yapay olarak kolaylaştırırdı. |
| |
| --- |
| |
| ## 6. Eşik (Threshold) Analizi |
| |
| ### Yöntem |
| |
| 0–1 arası 200 nokta süpürülerek F1'i maksimize eden eşik veri-güdümlü olarak belirlendi (gözle seçim yapılmadı): |
| for t in linspace(0, 1, 200): |
| f1 = 2precisionrecall / (precision+recall) |
| optimal = argmax(f1) |
| ### Sonuç (magibu) |
| |
| | Metrik | Değer | |
| |---|---| |
| | **Optimal threshold** | **0.583** | |
| | F1 | 0.974 | |
| | Precision | 1.000 | |
| | Recall | 0.950 | |
| | TP / FP / FN / TN | 19 / 0 / 1 / 10 | |
| | Recall@1 / @3 / @5 | 0.650 / 0.900 / 0.950 | |
| | MRR | 0.777 | |
| |
| ### Abstention Davranışı |
| |
| Benzerlik skoru `< 0.583` olan sorgularda sistem yanıt üretmez: |
| |
| > "Bu sorunun cevabı dokümanlarımda yer almamaktadır." |
| |
| 10 negatif sorunun tamamı eşiğin altında kaldı → **FP = 0**, sistem hiç uydurma yapmadı. |
| |
| --- |
| |
| ## 7. Model Karşılaştırması |
| |
| | Metrik | magibu | e5-large | |
| |---|---|---| |
| | Threshold | **0.583** | 0.643 | |
| | F1 | 0.974 | 0.974 | |
| | Precision | 1.000 | 1.000 | |
| | Recall | 0.950 | 0.950 | |
| | Recall@1 | 0.650 | 0.650 | |
| | Recall@3 | 0.900 | **0.950** | |
| | Recall@5 | 0.950 | 0.950 | |
| | MRR | 0.777 | **0.783** | |
| |
| --- |
| |
| ## 8. Reprodüksiyon |
| |
| ```bash |
| pip install -r requirements.txt |
| python -m src.prepare_data --config config.yaml # Faz 1: veri temizligi + ornekleme |
| python -m src.chunk --config config.yaml # Faz 2: chunking (400 token, 64 overlap) |
| python -m src.embed_index --config config.yaml # Faz 3: embedding + ChromaDB indeksleme |
| python -m src.evaluate --config config.yaml # Faz 4: test seti + threshold analizi |
| ``` |
| |
| Tüm parametreler `config.yaml`'da, `seed=42` sabit. Aynı komutlar aynı çıktıyı üretir. |
| |
| --- |
| |
| *Kaynak veri: `umutertugrul/turkish-hospital-medical-articles`* |
| |
