v4.0: Added 1,716 new examples

README.md

@@ -28,14 +28,14 @@ dataset_info:
     dtype: string
   splits:
   - name: train
-    num_bytes: 400000
-    num_examples: 5039
+    num_bytes: 512000
+    num_examples: 6411
   - name: validation
-    num_bytes: 55000
-    num_examples: 630
+    num_bytes: 70000
+    num_examples: 802
   - name: test
-    num_bytes: 55000
-    num_examples: 630
+    num_bytes: 70000
+    num_examples: 802
   download_size: 463876
   dataset_size: 463876
 configs:
@@ -55,7 +55,7 @@ configs:
 
 [![License: CC BY 4.0](https://img.shields.io/badge/License-CC_BY_4.0-lightgrey.svg)](https://creativecommons.org/licenses/by/4.0/)
 [![Format: Parquet](https://img.shields.io/badge/Format-Parquet-blue.svg)](https://parquet.apache.org/)
-[![Size: 6.3k pairs](https://img.shields.io/badge/Size-6%2C299_pairs-green.svg)](#статистика-сплітів)
+[![Size: 8.0k pairs](https://img.shields.io/badge/Size-8%2C015_pairs-green.svg)](#статистика-сплітів)
 [![Domain: NLP / Translation](https://img.shields.io/badge/Task-Text_Normalization_%2F_Seq2Seq-orange.svg)](#призначення-датасету)
 
 </div>
@@ -86,10 +86,10 @@ configs:
 
 | Спліт            | Кількість пар | Відсоток | Файл                 | Розмір  |
 | :--------------- | :-----------: | :------: | :------------------- | :-----: |
-| **`train`**      |   **5,039**   |  80.0%   | `train.parquet`      | ~400 KB |
-| **`validation`** |    **630**    |  10.0%   | `validation.parquet` | ~55 KB  |
-| **`test`**       |    **630**    |  10.0%   | `test.parquet`       | ~55 KB  |
-| **Разом**        |   **6,299**   |  100.0%  | —                    | ~510 KB |
+| **`train`**      |   **6,411**   |  80.0%   | `train.parquet`      | ~512 KB |
+| **`validation`** |    **802**    |  10.0%   | `validation.parquet` | ~70 KB  |
+| **`test`**       |    **802**    |  10.0%   | `test.parquet`       | ~70 KB  |
+| **Разом**        |   **8,015**   |  100.0%  | —                    | ~652 KB |
 
 Розподіл здійснено за допомогою `train_test_split` бібліотеки Hugging Face `datasets` із перемішуванням (`shuffle=True`) та зафіксованим генератором випадкових чисел (`seed=42`).
 
@@ -101,15 +101,15 @@ configs:
 
 ```
                   ┌──────────────────────────────────────────────┐
-                  │          SyrzykAI Dataset (6,299)            │
+                  │          SyrzykAI Dataset (8,015)            │
                   └──────────────────────┬───────────────────────┘
                                          │
         ┌────────────────────────────────┼────────────────────────────────┐
-        │ 50.0%                          │ 28.0%                          │ 22.0%
+        │ 44.3%                          │ 30.8%                          │ 24.9%
         ▼                                ▼                                ▼
 ┌─────────────────┐            ┌───────────────────┐            ┌───────────────────┐
 │     manual      │            │ hplt_v3_modified  │            │     synthetic     │
-│   (3,147 пар)   │            │    (1,766 пар)    │            │     (1386 пар)    │
+│   (3,549 пар)   │            │    (2,471 пар)    │            │     (1,995 пар)   │
 │ Власноруч скла- │            │ Корпус HPLT v3    │            │ Згенеровано Kimi  │
 │ дені побутові   │            │ + правила заміни  │            │ K2 + ручна вери-  │
 │ та розмовні     │            │ + ручна фільтрація│            │ фікація / правки  │
@@ -117,13 +117,13 @@ configs:
 └─────────────────┘            └───────────────────┘            └───────────────────┘
 ```
 
-1. **`manual` (3,147 пар / 50.0%)**:
+1. **`manual` (3,549 пар / 44.3%)**:
    - Автентичні розмовні конструкції, записані вручну на основі живого мовлення та типових розмовних конструкцій.
    - Охоплює типові сленгові звороти, щоденні діалоги, фразеологічні кальки.
-2. **`hplt_v3_modified` (1,766 пар / 28.0%)**:
+2. **`hplt_v3_modified` (2,471 пар / 30.8%)**:
    - Відібрані високоякісні нормативні речення з в��дкритого веб-корпусу **HPLT v3** ([High-Performance Language Technologies / OPUS](https://opus.nlpl.eu/datasets/HPLT?pair=en&uk)).
    - Застосовано лінгвістичний генератор псевдо-суржику (модуль `script_for_dataset.py`) з підстановкою типових русизмів, після чого виконано ручну перевірку та фільтрацію некоректних пар.
-3. **`synthetic` (1,386 пар / 22.0%)**:
+3. **`synthetic` (1,995 пар / 24.9%)**:
    - Синтетично згенеровані пари за допомогою LLM (Kimi K2) з акцентом на складні синтаксичні русизми, прийменникові конструкції та діловий/публіцистичний суржик.
    - **Усі пари пройшли обов'язкову ручну верифікацію та редагування людиною.**
 
@@ -158,15 +158,15 @@ print(dataset)
 # DatasetDict({
 #     train: Dataset({
 #         features: ['syrzyk', 'ukrainian', 'source'],
-#         num_rows: 5039
+#         num_rows: 6411
 #     }),
 #     validation: Dataset({
 #         features: ['syrzyk', 'ukrainian', 'source'],
-#         num_rows: 630
+#         num_rows: 802
 #     }),
 #     test: Dataset({
 #         features: ['syrzyk', 'ukrainian', 'source'],
-#         num_rows: 630
+#         num_rows: 802
 #     })
 # })
 
@@ -216,7 +216,7 @@ tokenized_dataset = dataset.map(preprocess_function, batched=True)
 
 ## ⚠️ Обмеження та особливості (Limitations & Biases)
 
-- **Обсяг вибірки (v3.0)**: Датасет містить 6,299 ретельно відібраних прикладів. Це якісний seed-датасет для fine-tuning та бенчмаркінгу, але для більшого покриття всіх регіональних діалектів планується розширення корпусу до 10k прикладів.
+- **Обсяг вибірки (v4.0)**: Датасет містить 8,015 ретельно відібраних прикладів. Це якісний seed-датасет для fine-tuning та бенчмаркінгу, але для більшого покриття всіх регіональних діалектів планується розширення корпусу до 10k прикладів.
 - **Регіональна варіативність**: Суржик не є уніфікованою мовою — у різних регіонах (наприклад, Слобожанщина vs. Полісся vs. Південь) ступінь і характер русизмів відрізняються.
 - **Відсутність нецензурної лексики**: Корпус пройшов базову санітизацію та орієнтований на загальновживану, публіцистичну та щоденну розмовну лексику.
 
@@ -259,6 +259,7 @@ tokenized_dataset = dataset.map(preprocess_function, batched=True)
 
 ## Version History
 
+- **v4.0 (August 2026)**: Added 1,716 new pairs (Total: 8,015).
 - **v3.0 (August 2026)**: Added 852 new pairs (Total: 6,299).
 - **v2.0 (August 2026)**: Added 1,088 new pairs (Total: 5,447).
 - **v1.0 (August 2026)**: Initial release (4,359 pairs).

split_stats.json

@@ -1,8 +1,8 @@
 {
-  "total": 6299,
-  "train": 5039,
-  "validation": 630,
-  "test": 630,
+  "total": 8015,
+  "train": 6411,
+  "validation": 802,
+  "test": 802,
   "train_ratio": 0.8,
   "validation_ratio": 0.1,
   "test_ratio": 0.1,

test.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:80483fc34cbe80e86fd6c610960b1ed738936ed64b77d809205ccb5619afbb97
-size 56306
+oid sha256:4d38fe7388427eadc6eb432e6b01e5a8daa1ca4efd049aff0c0cafb338108084
+size 71137

train.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:54c2adbd17613e486baff5005a06b28049ee3f10bc7c02d2be783d27a42824dc
-size 403043
+oid sha256:bba2facf5566334e5d62c11d1320d1da7afd88d43a4e6e3ec2e481c87bea9182
+size 523180

validation.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:e49c7acb622ed276cf574cbfed23e59417c7c8254386c44d9591778609d8eeb5
-size 55758
+oid sha256:e9808dd312759797931a54ce168299fed4f243186ecc004e7872696fecfbfb52
+size 68790