turkish-medical-rag / README.md
nursimakgul's picture
Upload README.md with huggingface_hub
9a1534c verified
|
Raw
History Blame Contribute Delete
5.59 kB
metadata
language:
  - tr
license: cc-by-4.0
task_categories:
  - question-answering
  - text-retrieval
tags:
  - medical
  - turkish
  - rag
  - embeddings
  - vector-search
size_categories:
  - 1K<n<10K

Turkish Medical RAG — Vektör Arama ve Eşik Yönetimi

Teslim formatı: Hugging Face Dataset Reposu Kapsam: Türkçe tıbbi makaleler üzerinde RAG pipeline'ının retrieval + abstention katmanı.


1. Veri Seti

Kaynak: umutertugrul/turkish-hospital-medical-articles Seçilen hastaneler: Acıbadem, Memorial, Medicana

Temizlik Akışı

Adım Kalan Kayıt
Ham makale (3 kaynak) 13.840
Boilerplate temizliği (471 kalıp) 13.551
Minimum karakter filtresi (≥300) 13.516
Exact dedup 13.275
Near-dup (MinHash LSH, Jaccard ≥ 0.85) 13.085
Dengeli örnekleme (seed=42) 400

Kaynak dağılımı: Acıbadem 177 · Memorial 158 · Medicana 65

Boilerplate tespiti: Corpus genelinde ≥15 kez tekrar eden satırlar frekans analizi ile otomatik tespit edilip çıkarıldı. Sabit regex yerine veri-güdümlü yaklaşım tercih edildi.

Near-dup: MinHash + LSH ile Jaccard ≥ 0.85 olan çiftlerin yalnızca biri tutuldu.


2. Chunking Stratejisi

Seçilen yöntem: Fixed-token (sabit pencere + overlap) Parametreler: max_tokens=400 · overlap=64

Neden 400 token?

Metrik Değer
Median 1.238 token
95. yüzdelik 3.289 token
Maksimum 7.462 token
450+ token makale 380 / 400 (%95)

Makalelerin %95'i 450 token'ı aşıyor; chunking zorunlu. Benchmark'taki ikinci model ytu-ce-cosmos/turkish-e5-large 512 token limitine sahip. Adil karşılaştırma için her iki modele de sığacak boyut olan 400 token seçildi. Böylece e5'in truncation kayıpları karşılaştırmayı çarpıtmaz.

Overlap = 64 token: Cümle sınırlarında kopan bağlamı korur.

Sonuç: 400 makaleden 1.892 chunk (ort. 4,7 chunk/makale).


3. Embedding Modeli

İki model benchmark edildi:

Model Boyut Context
magibu/embeddingmagibu-200m 768 8.192 token
ytu-ce-cosmos/turkish-e5-large 1.024 512 token

Seçim: magibu/embeddingmagibu-200m (768 boyut)

Retrieval metrikleri iki modelde neredeyse özdeş (F1=0.974, Precision=1.000). Tercih gerekçeleri:

  1. Üretim dayanıklılığı: magibu'nun optimal threshold'u 0.583, e5'inki 0.643. Daha geniş ayrışma bölgesi, threshold ince ayarını kolaylaştırır.
  2. 8.192 token context: Uzun tıbbi dokümanlar için yapısal avantaj.
  3. Prompt ayrımı: prompt_name="document" / prompt_name="query" ayrımı doğru uygulandı.

Normalizasyon: Tüm vektörler L2 normalize edildi; cosine similarity = dot product.


4. Vektör Veritabanı Şeması

Teknoloji: ChromaDB (PersistentClient, hnsw:space: cosine)

Alan Tip Açıklama
chunk_id string Benzersiz kimlik (chunk_00000)
doc_id string Üst makale kimliği — SHA1(url)[:12]
url string Orijinal makale URL'i
title string Makale başlığı
__source string Kaynak hastane
chunk_index int Makale içindeki sıra
chunk_text string Parçalanmış metin
chunk_vector float[] 768 boyutlu embedding

Parent-Child: Her chunk doc_id ile üst makaleye bağlıdır; tam bağlam articles_clean.parquet'ten çekilebilir.


5. Test Seti

Toplam: 30 soru (data/test_set.jsonl)

Tür Adet Açıklama
Pozitif 20 Ground-truth chunk_id etiketli
Negatif (zor) 5 Tıbbi ama veri setinde yok (Parkinson, MS vb.)
Negatif (kolay) 5 Tamamen alakasız konular

Zor negatifler threshold'u stres testine tabi tutar; yalnızca kolay negatif kullanmak eşik seçimini yapay olarak kolaylaştırırdı.


6. Eşik (Threshold) Analizi

Yöntem

0–1 arası 200 nokta süpürülerek F1'i maksimize eden eşik veri-güdümlü olarak belirlendi (gözle seçim yapılmadı): for t in linspace(0, 1, 200): f1 = 2precisionrecall / (precision+recall) optimal = argmax(f1)

Sonuç (magibu)

Metrik Değer
Optimal threshold 0.583
F1 0.974
Precision 1.000
Recall 0.950
TP / FP / FN / TN 19 / 0 / 1 / 10
Recall@1 / @3 / @5 0.650 / 0.900 / 0.950
MRR 0.777

Abstention Davranışı

Benzerlik skoru < 0.583 olan sorgularda sistem yanıt üretmez:

"Bu sorunun cevabı dokümanlarımda yer almamaktadır."

10 negatif sorunun tamamı eşiğin altında kaldı → FP = 0, sistem hiç uydurma yapmadı.


7. Model Karşılaştırması

Metrik magibu e5-large
Threshold 0.583 0.643
F1 0.974 0.974
Precision 1.000 1.000
Recall 0.950 0.950
Recall@1 0.650 0.650
Recall@3 0.900 0.950
Recall@5 0.950 0.950
MRR 0.777 0.783

8. Reprodüksiyon

pip install -r requirements.txt
python -m src.prepare_data --config config.yaml   # Faz 1: veri temizligi + ornekleme
python -m src.chunk --config config.yaml          # Faz 2: chunking (400 token, 64 overlap)
python -m src.embed_index --config config.yaml    # Faz 3: embedding + ChromaDB indeksleme
python -m src.evaluate --config config.yaml       # Faz 4: test seti + threshold analizi

Tüm parametreler config.yaml'da, seed=42 sabit. Aynı komutlar aynı çıktıyı üretir.


Kaynak veri: umutertugrul/turkish-hospital-medical-articles