Datasets:

adedejimakinde
/

yoruba-normalization-pairs

raw stringlengths 17 267	canonical stringlengths 20 200	issue stringclasses 9 values	source stringclasses 1 value
Ó s̩e̩lè̩ ní o̩jó̩ kejìlá os̩ù Kejì o̩dún 1814, ní Perth, Scotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	underdot_0329	yowiki
Ó s̱e̱lè̱ ní o̱jó̱ kejìlá os̱ù Kejì o̱dún 1814, ní Perth, Scotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	underdot_0331	yowiki
Ó s̭ḙlḙ̀ ní o̭jó̭ kejìlá os̭ù Kejì o̭dún 1814, ní Perth, Scotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	underdot_032D	yowiki
Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	reorder_marks	yowiki
Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	decompose	yowiki
Ó ṣẹlẹ̀ ní ọjọ́ kejìlá o‌ṣù Kejì ọdún 1814, ní Perth, S‌cotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	inject_invisibles	yowiki
O ṣẹlẹ ni ọjọ kejila oṣu Keji ọdun 1814, ni Perth, Scotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	strip_tone_only	yowiki
O sele ni ojo kejila osu Keji odun 1814, ni Perth, Scotland	Ó ṣẹlẹ̀ ní ọjọ́ kejìlá oṣù Kejì ọdún 1814, ní Perth, Scotland	strip_all_diacritics	yowiki
Ìwúre jé̩ ò̩nà kan pàtàkì ti àwo̩n ará ìlú fi máa ń to̩ro̩ nǹkan tí wo̩n ń fe̩ ló̩wó̩ Ògún Aláró̩ ní às̩ìkò o̩dún rè̩	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	underdot_0329	yowiki
Ìwúre jé̱ ò̱nà kan pàtàkì ti àwo̱n ará ìlú fi máa ń to̱ro̱ nǹkan tí wo̱n ń fe̱ ló̱wó̱ Ògún Aláró̱ ní às̱ìkò o̱dún rè̱	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	underdot_0331	yowiki
Ìwúre jḙ́ ò̭nà kan pàtàkì ti àwo̭n ará ìlú fi máa ń to̭ro̭ nǹkan tí wo̭n ń fḙ ló̭wó̭ Ògún Aláró̭ ní às̭ìkò o̭dún rḙ̀	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	underdot_032D	yowiki
Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	reorder_marks	yowiki
Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	decompose	yowiki
Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń f‌ẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	inject_invisibles	yowiki
Iwure jẹ ọna kan pataki ti awọn ara ilu fi maa n tọrọ nnkan ti wọn n fẹ lọwọ Ogun Alarọ ni aṣiko ọdun rẹ	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	strip_tone_only	yowiki
Iwure je ona kan pataki ti awon ara ilu fi maa n toro nnkan ti won n fe lowo Ogun Alaro ni asiko odun re	Ìwúre jẹ́ ọ̀nà kan pàtàkì ti àwọn ará ìlú fi máa ń tọrọ nǹkan tí wọn ń fẹ lọ́wọ́ Ògún Alárọ́ ní àṣìkò ọdún rẹ̀	strip_all_diacritics	yowiki
Os̩ù ké̩rin o̩dún 2020	Oṣù kẹ́rin ọdún 2020	underdot_0329	yowiki
Os̱ù ké̱rin o̱dún 2020	Oṣù kẹ́rin ọdún 2020	underdot_0331	yowiki
Os̭ù kḙ́rin o̭dún 2020	Oṣù kẹ́rin ọdún 2020	underdot_032D	yowiki
Oṣù kẹ́rin ọdún 2020	Oṣù kẹ́rin ọdún 2020	reorder_marks	yowiki
Oṣù kẹ́rin ọdún 2020	Oṣù kẹ́rin ọdún 2020	decompose	yowiki
Oṣù kẹ́rin ọdún 202‌0	Oṣù kẹ́rin ọdún 2020	inject_invisibles	yowiki
Oṣu kẹrin ọdun 2020	Oṣù kẹ́rin ọdún 2020	strip_tone_only	yowiki
Osu kerin odun 2020	Oṣù kẹ́rin ọdún 2020	strip_all_diacritics	yowiki
Òrìs̩à náà s̩èlérí láti dáàbò bo àwo̩n ènìyàn náà àti láti fún wo̩n ní aásìkí fún ìdápadà pé wo̩n yóò máa rúbo̩ sí òun ló̩do̩o̩dún	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	underdot_0329	yowiki
Òrìs̱à náà s̱èlérí láti dáàbò bo àwo̱n ènìyàn náà àti láti fún wo̱n ní aásìkí fún ìdápadà pé wo̱n yóò máa rúbo̱ sí òun ló̱do̱o̱dún	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	underdot_0331	yowiki
Òrìs̭à náà s̭èlérí láti dáàbò bo àwo̭n ènìyàn náà àti láti fún wo̭n ní aásìkí fún ìdápadà pé wo̭n yóò máa rúbo̭ sí òun ló̭do̭o̭dún	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	underdot_032D	yowiki
Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	reorder_marks	yowiki
Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	decompose	yowiki
Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aá‌sìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	inject_invisibles	yowiki
Oriṣa naa ṣeleri lati daabo bo awọn eniyan naa ati lati fun wọn ni aasiki fun idapada pe wọn yoo maa rubọ si oun lọdọọdun	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	strip_tone_only	yowiki
Orisa naa seleri lati daabo bo awon eniyan naa ati lati fun won ni aasiki fun idapada pe won yoo maa rubo si oun lodoodun	Òrìṣà náà ṣèlérí láti dáàbò bo àwọn ènìyàn náà àti láti fún wọn ní aásìkí fún ìdápadà pé wọn yóò máa rúbọ sí òun lọ́dọọdún	strip_all_diacritics	yowiki
Àwo̩n àgbà bò̩, wó̩n ní "Bó̩mo̩dé bá tó ló̩kó̩, àá ló̩kó̩", láyé àtijó, bó̩mo̩kùnrin bá ti bàlágà láti fé̩ ìyàwó ó ní ìgbésè̩ tí a ní láti gbé	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	underdot_0329	yowiki
Àwo̱n àgbà bò̱, wó̱n ní "Bó̱mo̱dé bá tó ló̱kó̱, àá ló̱kó̱", láyé àtijó, bó̱mo̱kùnrin bá ti bàlágà láti fé̱ ìyàwó ó ní ìgbésè̱ tí a ní láti gbé	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	underdot_0331	yowiki
Àwo̭n àgbà bò̭, wó̭n ní "Bó̭mo̭dé bá tó ló̭kó̭, àá ló̭kó̭", láyé àtijó, bó̭mo̭kùnrin bá ti bàlágà láti fḙ́ ìyàwó ó ní ìgbésḙ̀ tí a ní láti gbé	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	underdot_032D	yowiki
Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	reorder_marks	yowiki
Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	decompose	yowiki
Àwọn àgbà bọ̀, wọ́n ní "Bọ‌́mọdé bá tó lọ́kọ́, àá lọ́kọ́", lá‌yé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	inject_invisibles	yowiki
Àwọn àgbà bọ̀, wọ́n ní “Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́”, láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	smart_punctuation	yowiki
Awọn agba bọ, wọn ni "Bọmọde ba to lọkọ, aa lọkọ", laye atijo, bọmọkunrin ba ti balaga lati fẹ iyawo o ni igbesẹ ti a ni lati gbe	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	strip_tone_only	yowiki
Awon agba bo, won ni "Bomode ba to loko, aa loko", laye atijo, bomokunrin ba ti balaga lati fe iyawo o ni igbese ti a ni lati gbe	Àwọn àgbà bọ̀, wọ́n ní "Bọ́mọdé bá tó lọ́kọ́, àá lọ́kọ́", láyé àtijó, bọ́mọkùnrin bá ti bàlágà láti fẹ́ ìyàwó ó ní ìgbésẹ̀ tí a ní láti gbé	strip_all_diacritics	yowiki
Ìpele tí ó tè̩lé ti aye̩ye̩ yìí ni láti darí àwo̩n ènìyàn lo̩ sí ibi ojúbo̩ Òkèmògún	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	underdot_0329	yowiki
Ìpele tí ó tè̱lé ti aye̱ye̱ yìí ni láti darí àwo̱n ènìyàn lo̱ sí ibi ojúbo̱ Òkèmògún	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	underdot_0331	yowiki
Ìpele tí ó tḙ̀lé ti ayḙyḙ yìí ni láti darí àwo̭n ènìyàn lo̭ sí ibi ojúbo̭ Òkèmògún	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	underdot_032D	yowiki
Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	reorder_marks	yowiki
Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	decompose	yowiki
Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	inject_invisibles	yowiki
Ipele ti o tẹle ti ayẹyẹ yii ni lati dari awọn eniyan lọ si ibi ojubọ Okemogun	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	strip_tone_only	yowiki
Ipele ti o tele ti ayeye yii ni lati dari awon eniyan lo si ibi ojubo Okemogun	Ìpele tí ó tẹ̀lé ti ayẹyẹ yìí ni láti darí àwọn ènìyàn lọ sí ibi ojúbọ Òkèmògún	strip_all_diacritics	yowiki
Ó dá iná àgbè̩de̩, ó sì fi òòlù rè̩ bo̩ iná, ó finná mó̩ o̩n títí ó fi pón re̩ke̩se̩	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	underdot_0329	yowiki
Ó dá iná àgbè̱de̱, ó sì fi òòlù rè̱ bo̱ iná, ó finná mó̱ o̱n títí ó fi pón re̱ke̱se̱	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	underdot_0331	yowiki
Ó dá iná àgbḙ̀dḙ, ó sì fi òòlù rḙ̀ bo̭ iná, ó finná mó̭ o̭n títí ó fi pón rḙkḙsḙ	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	underdot_032D	yowiki
Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	reorder_marks	yowiki
Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	decompose	yowiki
Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón r‌ẹkẹsẹ	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	inject_invisibles	yowiki
O da ina agbẹdẹ, o si fi oolu rẹ bọ ina, o finna mọ ọn titi o fi pon rẹkẹsẹ	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	strip_tone_only	yowiki
O da ina agbede, o si fi oolu re bo ina, o finna mo on titi o fi pon rekese	Ó dá iná àgbẹ̀dẹ, ó sì fi òòlù rẹ̀ bọ iná, ó finná mọ́ ọn títí ó fi pón rẹkẹsẹ	strip_all_diacritics	yowiki
Nínú àkójo̩pò̩ ò̩rò̩ Ifá, Odù 256 ló wà ní àpapò̩	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	underdot_0329	yowiki
Nínú àkójo̱pò̱ ò̱rò̱ Ifá, Odù 256 ló wà ní àpapò̱	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	underdot_0331	yowiki
Nínú àkójo̭pò̭ ò̭rò̭ Ifá, Odù 256 ló wà ní àpapò̭	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	underdot_032D	yowiki
Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	reorder_marks	yowiki
Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	decompose	yowiki
Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	inject_invisibles	yowiki
Ninu akojọpọ ọrọ Ifa, Odu 256 lo wa ni apapọ	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	strip_tone_only	yowiki
Ninu akojopo oro Ifa, Odu 256 lo wa ni apapo	Nínú àkójọpọ̀ ọ̀rọ̀ Ifá, Odù 256 ló wà ní àpapọ̀	strip_all_diacritics	yowiki
12496 Ekholm jé̩ pláné̩tì kékeré ní ibi ìgbàjá ásté̩ró̩ìdì	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	underdot_0329	yowiki
12496 Ekholm jé̱ pláné̱tì kékeré ní ibi ìgbàjá ásté̱ró̱ìdì	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	underdot_0331	yowiki
12496 Ekholm jḙ́ plánḙ́tì kékeré ní ibi ìgbàjá ástḙ́ró̭ìdì	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	underdot_032D	yowiki
12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	reorder_marks	yowiki
12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	decompose	yowiki
12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	inject_invisibles	yowiki
12496 Ekholm jẹ planẹti kekere ni ibi igbaja astẹrọidi	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	strip_tone_only	yowiki
12496 Ekholm je planeti kekere ni ibi igbaja asteroidi	12496 Ekholm jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	strip_all_diacritics	yowiki
22833 Scottyu jé̩ pláné̩tì kékeré ní ibi ìgbàjá ásté̩ró̩ìdì	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	underdot_0329	yowiki
22833 Scottyu jé̱ pláné̱tì kékeré ní ibi ìgbàjá ásté̱ró̱ìdì	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	underdot_0331	yowiki
22833 Scottyu jḙ́ plánḙ́tì kékeré ní ibi ìgbàjá ástḙ́ró̭ìdì	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	underdot_032D	yowiki
22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	reorder_marks	yowiki
22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	decompose	yowiki
22833 Scottyu jẹ́ plánẹ́tì kékeré ní ib‌i ìgbàjá ástẹ́rọ́ìdì	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	inject_invisibles	yowiki
22833 Scottyu jẹ planẹti kekere ni ibi igbaja astẹrọidi	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	strip_tone_only	yowiki
22833 Scottyu je planeti kekere ni ibi igbaja asteroidi	22833 Scottyu jẹ́ plánẹ́tì kékeré ní ibi ìgbàjá ástẹ́rọ́ìdì	strip_all_diacritics	yowiki
Ètò è̩kó̩ rè̩ bè̩rè̩ láti ilée-kéú kí ó tó di pé wó̩n mu lo̩ sí ilé-ìwé Mùsùlùmí alákò̩ó̩bè̩rè̩ ti ìjo̩ba ní ìlú È̩pé̩	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	underdot_0329	yowiki
Ètò è̱kó̱ rè̱ bè̱rè̱ láti ilée-kéú kí ó tó di pé wó̱n mu lo̱ sí ilé-ìwé Mùsùlùmí alákò̱ó̱bè̱rè̱ ti ìjo̱ba ní ìlú È̱pé̱	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	underdot_0331	yowiki
Ètò ḙ̀kó̭ rḙ̀ bḙ̀rḙ̀ láti ilée-kéú kí ó tó di pé wó̭n mu lo̭ sí ilé-ìwé Mùsùlùmí alákò̭ó̭bḙ̀rḙ̀ ti ìjo̭ba ní ìlú Ḙ̀pḙ́	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	underdot_032D	yowiki
Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	reorder_marks	yowiki
Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	decompose	yowiki
Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mù‌sùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	inject_invisibles	yowiki
Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée–kéú kí ó tó di pé wọ́n mu lọ sí ilé–ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	smart_punctuation	yowiki
Eto ẹkọ rẹ bẹrẹ lati ilee-keu ki o to di pe wọn mu lọ si ile-iwe Musulumi alakọọbẹrẹ ti ijọba ni ilu Ẹpẹ	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	strip_tone_only	yowiki
Eto eko re bere lati ilee-keu ki o to di pe won mu lo si ile-iwe Musulumi alakoobere ti ijoba ni ilu Epe	Ètò ẹ̀kọ́ rẹ̀ bẹ̀rẹ̀ láti ilée-kéú kí ó tó di pé wọ́n mu lọ sí ilé-ìwé Mùsùlùmí alákọ̀ọ́bẹ̀rẹ̀ ti ìjọba ní ìlú Ẹ̀pẹ́	strip_all_diacritics	yowiki
Àwo̩n tí wó̩n dipò ìs̩èjo̩ba ìbílè̩ abé̩lé pàtàkì mú níbè̩ ni àwo̩n adarí è̩sìn íbílè̩ bí: O̩ba àwo̩n Ìjòyè àti àwo̩n Báálè̩	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	underdot_0329	yowiki
Àwo̱n tí wó̱n dipò ìs̱èjo̱ba ìbílè̱ abé̱lé pàtàkì mú níbè̱ ni àwo̱n adarí è̱sìn íbílè̱ bí: O̱ba àwo̱n Ìjòyè àti àwo̱n Báálè̱	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	underdot_0331	yowiki
Àwo̭n tí wó̭n dipò ìs̭èjo̭ba ìbílḙ̀ abḙ́lé pàtàkì mú níbḙ̀ ni àwo̭n adarí ḙ̀sìn íbílḙ̀ bí: O̭ba àwo̭n Ìjòyè àti àwo̭n Báálḙ̀	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	underdot_032D	yowiki
Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	reorder_marks	yowiki
Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	decompose	yowiki
Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ‌̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn‌ Báálẹ̀	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	inject_invisibles	yowiki
Awọn ti wọn dipo iṣejọba ibilẹ abẹle pataki mu nibẹ ni awọn adari ẹsin ibilẹ bi: Ọba awọn Ijoye ati awọn Baalẹ	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	strip_tone_only	yowiki
Awon ti won dipo isejoba ibile abele pataki mu nibe ni awon adari esin ibile bi: Oba awon Ijoye ati awon Baale	Àwọn tí wọ́n dipò ìṣèjọba ìbílẹ̀ abẹ́lé pàtàkì mú níbẹ̀ ni àwọn adarí ẹ̀sìn íbílẹ̀ bí: Ọba àwọn Ìjòyè àti àwọn Báálẹ̀	strip_all_diacritics	yowiki
Síbè̩síbè̩, wó̩n s̩ì ń ráyè̩ gbó̩ ti è̩sìn ìbílè̩ Yorùbá, bí ó̩ tilè̩ jé̩ pé̩ ó ní àwo̩n àdúgbò tí èyí múmú láyà wo̩n jù	Síbẹ̀síbẹ̀, wọ́n ṣì ń ráyẹ̀ gbọ́ ti ẹ̀sìn ìbílẹ̀ Yorùbá, bí ọ́ tilẹ̀ jẹ́ pẹ́ ó ní àwọn àdúgbò tí èyí múmú láyà wọn jù	underdot_0329	yowiki
Síbè̱síbè̱, wó̱n s̱ì ń ráyè̱ gbó̱ ti è̱sìn ìbílè̱ Yorùbá, bí ó̱ tilè̱ jé̱ pé̱ ó ní àwo̱n àdúgbò tí èyí múmú láyà wo̱n jù	Síbẹ̀síbẹ̀, wọ́n ṣì ń ráyẹ̀ gbọ́ ti ẹ̀sìn ìbílẹ̀ Yorùbá, bí ọ́ tilẹ̀ jẹ́ pẹ́ ó ní àwọn àdúgbò tí èyí múmú láyà wọn jù	underdot_0331	yowiki

End of preview. Expand in Data Studio

Normalization pairs dataset

What this is

24,475 pairs of Yorùbá text, each a corrupted form next to its canonical form, labelled by corruption type. I built it for testing orthographic normalization code.

The library

This dataset was built alongside yotext, a Python library for Yorùbá orthographic normalization and diacritic restoration. The library is on PyPI at https://pypi.org/project/yotext/ and the source is at https://github.com/adedejimakinde/yotext. The corruption generator that produced this dataset is in that repository under tools/corrupt.py, so the dataset is fully reproducible.

Format

JSON Lines, UTF-8. Each line is one object with four fields: raw, canonical, issue, source.

{"raw": "Os̩ù ké̩rin o̩dún 2020", "canonical": "Oṣù kẹ́rin ọdún 2020", "issue": "underdot_0329", "source": "yowiki"}

Corruption types

Type	Description	Records
underdot_0329	Underdot written as the non-canonical combining vertical line below (U+0329) instead of U+0323.	3000
underdot_0331	Underdot written as the non-canonical combining macron below (U+0331) instead of U+0323.	3000
underdot_032D	Underdot written as the non-canonical combining circumflex below (U+032D) instead of U+0323.	3000
reorder_marks	Tone mark placed before the underdot on the same letter, out of canonical combining order.	3000
decompose	Text left in NFD form instead of NFC.	3000
inject_invisibles	Zero-width and soft-hyphen characters inserted at a few positions.	3000
smart_punctuation	Straight quotes turned into curly quotes, hyphens between words turned into en dashes.	475
strip_tone_only	Tone marks removed, underdot kept.	3000
strip_all_diacritics	Every combining mark removed, tone and underdot alike.	3000

smart_punctuation only applies to sentences that already contain a quote or a hyphen, so it produced far fewer records than the other types.

How it was built

3000 sentences were sampled from Yorùbá Wikipedia articles with diacritic coverage at or above 0.75, deduplicated, and selected with a seeded shuffle so the sample is reproducible. Each corruption was applied by tools/corrupt.py. That script deliberately does not import yotext, so a bug in the library cannot make this dataset quietly agree with it.

The two lossy types

strip_tone_only and strip_all_diacritics destroy information. Once tone marks or underdots are gone, no normalization function can restore them, since the information about which vowel or tone was there no longer exists in the string. These two types are included for evaluating restoration, not normalization.

License

The text comes from Yorùbá Wikipedia, which is licensed CC BY-SA 4.0. This dataset is therefore CC BY-SA 4.0 too, and attributes Wikipedia as the source. This differs from the MIT license that covers the code in this repository. Check which license applies before reusing either one.

Limitations

All the corruptions here are synthetic. Real Yorùbá text contains encoding failures nobody would think to simulate, and none of those are represented here. The source is a single domain, encyclopedic prose from Wikipedia, so the dataset says nothing about how this code performs on social media posts, chat messages, or other informal writing. A version built from naturally occurring errors would be more valuable than this one, and it does not exist yet.

Downloads last month: -