hayriyigit/nomiracl-tr-relevance

NoMIRACL-tr: passage relevance (RAG)

NoMIRACL'dan kurulmuş, Türkçeye makine çevirisiyle aktarılmış bir relevance veri seti. Her satır bir soru, Vikipedi'den getirilmiş tek bir passage ve insan relevance etiketinden oluşur: passage soruya cevap veriyor ya da cevaba katkı sağlıyor mu? Etiketler NoMIRACL'ın (MIRACL) annotator'larından gelir, makine üretimi değildir. Hayır satırları, soru için retrieval ile getirilmiş ve konuyla ilgili passage'lardır: RAG'de getirilen ama işe yaramayan parçalar gibi.

Etiket tanımı bir RAG judge'ı içindir: kısmi cevap yeterlidir. Passage sorunun tamamını cevaplamasa da cevaba doğrudan katkı sağlıyorsa relevant'tır. Bu yüzden bu set "belge soruyu tamamen cevaplıyor mu" (answerability) sorusu için değil, "bu belge tutulmalı mı" sorusu için uygundur.

Split	Satır	Evet	Hayır
train	11.377	5.276	6.101
test	2.005	704	1.301

Satır türleri (kind)

• relevant (5.276 train, 704 test satırı): Annotator'ın relevant bulduğu passage: evet
• not_relevant (5.417 train, 801 test satırı): En az bir relevant passage'ı olan bir sorunun, annotator'ın relevant bulmadığı passage'ı: hayır
• none_relevant (684 train, 500 test satırı): Getirilen passage'ların hiçbiri relevant bulunmamış bir sorunun passage'ı: hayır (NoMIRACL'ın non-relevant subset'i: modelin "bilmiyorum" demesi gereken durumlar)

NoMIRACL English'in her sorusu için ~10 passage annotator'lar tarafından yargılanmıştır. Bir sorunun bütün relevant passage'ları alındı; hayır satırları, relevant passage başına en fazla 1,3 tane olacak şekilde (relevant'ı olmayan sorularda 2) rastgele seçildi. NoMIRACL'ın test split'i burada train, dev split'i test oldu; iki split'in soruları ayrıdır. Konu metni (topic) olmayan 35 soru atıldı.

Alanlar

• id, kind, label (bool), question (Türkçe), paragraphs (tek elemanlı liste: title, text; Türkçe)
• meta: kaynağın bilgileri (query_id); çevrilmedi

Çeviri ve kalite

• Model: qwen3.8-flash-next (OpenAI uyumlu vLLM, temperature=0, reasoning kapalı), prompt sürümü v2-json-bf88f95c.
• Passage ve soru ayrı ayrı çevrildi; passage makale başlığıyla birlikte gönderildi. Aynı passage birden fazla satırda geçiyorsa her yerde aynı çeviriyle geçer.
• Her çeviri otomatik olarak denetlendi: sayılar ve satır sonları kaynakla aynı mı, uzunluk oranı makul mü, çevrilmeden kalmış mı, English leakage, preamble ya da refusal var mı. Bu iki setin birlikte 32.252 benzersiz metninden 1.986 tanesi (%6,2) şüpheli olarak işaretlendi ve veri setinde bırakıldı; çevrilemeyen metin yok. Şüphelilerin çoğu genellikle sayı yazımı ya da İngilizce bırakılan özel adlardır; tek tek incelenmedi.
• Bu set için en zararlı hata, modelin soruyu çevirmek yerine cevaplamasıdır. Soru işareti kaybolan ya da orantısız uzayan soru kontrol edildi: bulunmadı.
• id, kind, label ve meta'nın kaynakla birebir aynı olduğu doğrulandı.

Makine çevirisidir; bir insan tarafından baştan sona kontrol edilmedi.

Lisans ve atıf

Kaynak: miracl/nomiracl. Lisans Apache-2.0 (NoMIRACL). Passage metinleri Vikipedi'den gelir (CC BY-SA); Vikipedi metnini yeniden dağıtırken atıf ve aynı lisansla paylaşma koşulları geçerlidir. Atıf: Thakur ve ark. (2024), "Knowing When You Don't Know": A Multilingual Relevance Assessment Dataset for Robust Retrieval-Augmented Generation (NoMIRACL); Zhang ve ark. (2023), MIRACL.