GoLLeM Corpus 2B PL: zstd, shuffled (seed=42), single clean version

.gitattributes

@@ -0,0 +1,60 @@
+*.7z filter=lfs diff=lfs merge=lfs -text
+*.arrow filter=lfs diff=lfs merge=lfs -text
+*.avro filter=lfs diff=lfs merge=lfs -text
+*.bin filter=lfs diff=lfs merge=lfs -text
+*.bz2 filter=lfs diff=lfs merge=lfs -text
+*.ckpt filter=lfs diff=lfs merge=lfs -text
+*.ftz filter=lfs diff=lfs merge=lfs -text
+*.gz filter=lfs diff=lfs merge=lfs -text
+*.h5 filter=lfs diff=lfs merge=lfs -text
+*.joblib filter=lfs diff=lfs merge=lfs -text
+*.lfs.* filter=lfs diff=lfs merge=lfs -text
+*.lz4 filter=lfs diff=lfs merge=lfs -text
+*.mds filter=lfs diff=lfs merge=lfs -text
+*.mlmodel filter=lfs diff=lfs merge=lfs -text
+*.model filter=lfs diff=lfs merge=lfs -text
+*.msgpack filter=lfs diff=lfs merge=lfs -text
+*.npy filter=lfs diff=lfs merge=lfs -text
+*.npz filter=lfs diff=lfs merge=lfs -text
+*.onnx filter=lfs diff=lfs merge=lfs -text
+*.ot filter=lfs diff=lfs merge=lfs -text
+*.parquet filter=lfs diff=lfs merge=lfs -text
+*.pb filter=lfs diff=lfs merge=lfs -text
+*.pickle filter=lfs diff=lfs merge=lfs -text
+*.pkl filter=lfs diff=lfs merge=lfs -text
+*.pt filter=lfs diff=lfs merge=lfs -text
+*.pth filter=lfs diff=lfs merge=lfs -text
+*.rar filter=lfs diff=lfs merge=lfs -text
+*.safetensors filter=lfs diff=lfs merge=lfs -text
+saved_model/**/* filter=lfs diff=lfs merge=lfs -text
+*.tar.* filter=lfs diff=lfs merge=lfs -text
+*.tar filter=lfs diff=lfs merge=lfs -text
+*.tflite filter=lfs diff=lfs merge=lfs -text
+*.tgz filter=lfs diff=lfs merge=lfs -text
+*.wasm filter=lfs diff=lfs merge=lfs -text
+*.xz filter=lfs diff=lfs merge=lfs -text
+*.zip filter=lfs diff=lfs merge=lfs -text
+*.zst filter=lfs diff=lfs merge=lfs -text
+*tfevents* filter=lfs diff=lfs merge=lfs -text
+# Audio files - uncompressed
+*.pcm filter=lfs diff=lfs merge=lfs -text
+*.sam filter=lfs diff=lfs merge=lfs -text
+*.raw filter=lfs diff=lfs merge=lfs -text
+# Audio files - compressed
+*.aac filter=lfs diff=lfs merge=lfs -text
+*.flac filter=lfs diff=lfs merge=lfs -text
+*.mp3 filter=lfs diff=lfs merge=lfs -text
+*.ogg filter=lfs diff=lfs merge=lfs -text
+*.wav filter=lfs diff=lfs merge=lfs -text
+# Image files - uncompressed
+*.bmp filter=lfs diff=lfs merge=lfs -text
+*.gif filter=lfs diff=lfs merge=lfs -text
+*.png filter=lfs diff=lfs merge=lfs -text
+*.tiff filter=lfs diff=lfs merge=lfs -text
+# Image files - compressed
+*.jpg filter=lfs diff=lfs merge=lfs -text
+*.jpeg filter=lfs diff=lfs merge=lfs -text
+*.webp filter=lfs diff=lfs merge=lfs -text
+# Video files - compressed
+*.mp4 filter=lfs diff=lfs merge=lfs -text
+*.webm filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,92 @@
+---
+license: cc-by-sa-4.0
+language:
+- pl
+task_categories:
+- text-generation
+pretty_name: GoLLeM Corpus 2B PL
+size_categories:
+- 1M<n<10M
+tags:
+- pretraining
+- polish
+- gollem
+- from-scratch
+---
+
+# GoLLeM Corpus 2B PL
+
+**Dokładny korpus treningowy** polskiego modelu bazowego
+[`SlayerLab/GoLLeM-110M-PL-v3`](https://huggingface.co/SlayerLab/GoLLeM-110M-PL-v3)
+(oraz v2) — ten sam zbiór, po którym model przeszedł **dwie epoki**. Publikujemy go,
+aby każdy mógł **odtworzyć trening od zera** na własnym tokenizerze.
+
+> **Jak powstał ten plik.** Korpus odzyskano przez **zdekodowanie** stokenizowanego
+> checkpointu treningowego (byte-level BPE `dynaword-32k`, round-trip bezstratny; granice
+> dokumentów = token `<|endoftext|>`). To jest **dokładnie** tekst, który model widział —
+> nie rekonstrukcja ze źródeł.
+
+## Zawartość
+| split | dokumenty | tokeny (proxy dynaword-32k) |
+|---|---:|---:|
+| train | 2 790 164 | 1 987 316 263 |
+| validation | 14 021 | 10 123 670 |
+
+Format: Parquet (zstd), kolumny `id` (int), `text` (str), `n_tokens` (int, w tokenizerze
+dynaword-32k). Liczba tokenów jest orientacyjna — przy własnym tokenizerze przelicz sam;
+liczba **dokumentów** jest tokenizer-agnostyczna.
+
+## Skład (cele, % tokenów)
+- **~58% curated** (wiedza + literatura): Wikipedia, Wikisource, Wolne Lektury, 1000 Novels,
+  Wikiquote / Wikibooks / Wikinews / Wikivoyage, ELTeC-pol.
+- **~42% web**: HPLT v3.0 PL (po czyszczeniu: strip boilerplate span+line, filtr jakości/języka).
+- **Zero legalese** — świadomie wykluczone eur-lex / parlament / Dziennik Ustaw, by rejestr
+  prawny nie zdominował korpusu.
+
+## Jak używać
+```python
+from datasets import load_dataset
+ds = load_dataset("SlayerLab/gollem-corpus-2b-pl", split="train")
+print(ds[0]["text"][:300])
+# ... następnie tokenizuj WŁASNYM tokenizerem i trenuj model bazowy
+```
+
+## Zastrzeżenia (uczciwie)
+- **Surowy korpus pretreningowy**, nie zbiór wyczyszczony pod czytelnika: część web zawiera
+  listy słów-kluczy, tagi itp. — to realne dane treningowe (42% HPLT).
+- **Proweniencja agregatowa.** Ponieważ korpus odzyskano z jednolitego strumienia tokenów,
+  **etykiety źródła/licencji per dokument nie są zachowane** — udokumentowany jest jedynie skład
+  zbiorczy (wyżej). Jeśli potrzebujesz proweniencji per-źródło z datasheetami, użyj
+  [`SlayerLab/polish-dynaword`](https://huggingface.co/datasets/SlayerLab/polish-dynaword)
+  (z niego pochodzi warstwa curated).
+- **PII scrubowane** na etapie treningu (telefon/email/PESEL/NIP → tagi) — korpus nie jest źródłem PII.
+- Tokeny liczone tokenizerem `dynaword-32k` (proxy), nie liczbą słów/bajtów.
+
+## Licencja i atrybucja
+**CC-BY-SA-4.0** (licencja dominująca, share-alike). Skład licencyjny źródeł:
+Wikimedia (Wikipedia/Wikisource/Wiki*) — **CC-BY-SA-3.0**; Wolne Lektury — **CC-BY-SA-4.0 /
+Wolna Sztuka 1.3**; 1000 Novels, ELTeC-pol — **CC-BY-4.0**; HPLT v3 (web) — **CC0-1.0**.
+Użycie wymaga **atrybucji** (Wikimedia Foundation, Wolne Lektury, autorzy 1000 Novels,
+HPLT / CLARIN-PL) oraz **share-alike** dla derywatów.
+
+## Powiązania
+- Model trenowany na tym korpusie: [`SlayerLab/GoLLeM-110M-PL-v3`](https://huggingface.co/SlayerLab/GoLLeM-110M-PL-v3)
+- Warstwa curated / proweniencja per-źródło: [`SlayerLab/polish-dynaword`](https://huggingface.co/datasets/SlayerLab/polish-dynaword)
+
+**Autor:** Arkadiusz Słota / SlayerLab.
+
+---
+
+## English (summary)
+
+Exact pretraining corpus of **GoLLeM-110M-PL v2/v3** — the same data the model saw for two
+epochs — released so anyone can **retrain from scratch** with their own tokenizer. Recovered by
+**decoding** the tokenized training checkpoint (byte-level BPE, lossless round-trip; documents
+split on `<|endoftext|>`), so it is *exactly* what the model was trained on.
+
+**train** 2,790,164 docs / 1.99B tokens (dynaword-32k proxy); **validation** 14,021 docs.
+Mix: ~58% curated (Wikimedia, Wolne Lektury, 1000 Novels, ELTeC) + ~42% cleaned HPLT v3 PL web;
+**no legalese**. Raw pretraining data (web keyword-lists included). **Aggregate provenance only**
+(per-document source/license labels are not preserved by the decode; for per-source datasheets use
+`SlayerLab/polish-dynaword`). PII scrubbed during training. **CC-BY-SA-4.0**, attribution +
+share-alike required.

data/train-00000.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f1184cf1824b74075f156daebe6f3347142ae9304b9415c0dffc9e470470f25b
+size 299595259

data/train-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e393817578e85005a9bce8f562a5b3f88ef0f3d1f3c1625ee350a2b875f4332e
+size 303854246

data/train-00002.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b47e9fd4a5f7ccfcd0fb8c25724a32cf35421d1c502c6ae6a540d08547f84563
+size 300457249

data/train-00003.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e4aaaa1ee48af17ae98795d5bce6da8561be8ce1ac9ad4a25d88191529ddc470
+size 306024915

data/train-00004.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7164054089391670a918d2106258a31b3525eb15f9a6ccf68d14ab1e32293ef1
+size 309317813

data/train-00005.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:bb8c371c892589bba80ca03e7ea762c1324b8bbe168aae03ed4456b0e932d8c3
+size 292429877

data/train-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3d7ae0ba97e8915f7d20db3d9fe4cb91e31b8f2a461016b4686910474e39a03b
+size 305450251

data/train-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8695d1225628484a142e6b831ddfd036f1824560203b20b55ca4404b05d7aaf0
+size 301583326

data/train-00008.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1a4949fc08006798571f4f7addd4c8ad8f5a1275f0697be3fb950011af30e602
+size 304563438

data/train-00009.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0ad93efaef37865b3736e7c841448f9f86e4fd11bcf5b4221a38361c0817717e
+size 300874970

data/validation-00000.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:aba669d6d51f803c1e21946744846baa7f29ad0706a5dc0c143af424b92f8174
+size 14922813