README.md

---
pretty_name: slayer-pl-8x3b
language:
- pl
- en
license: other
license_name: mixed-cc0-ccby-ccbysa-odcby-pd
tags:
- polish
- pretraining
- register-classification
- web
size_categories:
- 10M<n<100M
---

# slayer-pl-8x3b

Osiem rozłącznych polskich zbiorów treningowych, po około 3 mld tokenów każdy (łącznie około 24 mld tokenów, licznik cl100k). Zbiory przeznaczone są do treningu wieloprzebiegowego: różnią się rozłącznym wycinkiem danych web (brak wspólnych dokumentów między zbiorami), natomiast współdzielą rdzeń zróżnicowany rejestrowo, warstwę prawno-urzędową oraz dosypkę angielską. Format wyjściowy: parquet. Tokenizacja pozostaje po stronie odbiorcy.

Kontrakt danych (`dataset.json`) jest źródłem prawdy: prowenencja, sumy kontrolne SHA-256, liczby tokenów, metody deduplikacji i dekontaminacji.

Status: **scaffold** — struktura, karta i manifesty są kompletne; pliki parquet komponentów są w trakcie napełniania (dosypka EN, tagowanie rejestrów, czyszczenie, złożenie zbiorów).

## Struktura

```
slayer-pl-8x3b/
├── dataset.json          kontrakt/manifest zbiorczy
├── card.yaml             karta walidacyjna dsbench (format: register)
├── README.md
├── shared/
│   ├── core.parquet       rdzeń zróżnicowany permissive (~0,16 mld tok)
│   ├── core_sa.parquet    rdzeń zróżnicowany share-alike (~3,55 mld tok)
│   ├── legal.parquet      warstwa prawno-urzędowa permissive (~1,92 mld)
│   ├── legal_sa.parquet   warstwa prawno-urzędowa share-alike (~0,081 mld)
│   ├── en.parquet         dosypka angielska (~2,40 mld)
│   └── manifest.json
└── pack-00 … pack-07/     osiem zbiorów — rozłączny wycinek web
    ├── web.parquet        rozłączny wycinek web (register-tagged, ~1,89 mld)
    ├── manifest.json      komponenty (własny web + referencje shared), tokeny, SHA-256, rozkład rejestrów, wagi mieszania
    └── sample.jsonl
```

## Schemat rekordu

`document_id · source_id · text · register · license · provenance · classified_by · garbage`

## Skład zbioru (docelowy, na jeden zbiór ~3 mld)

Scenariusz mieszania B:

| komponent | udział | tokeny (mld) | licencja |
|---|---:|---:|---|
| web (rozłączny) | 63% | 1,89 | CC0-1.0 |
| rdzeń zróżnicowany (wspólny) | 19% | 0,57 | mieszana (segregacja SA) |
| prawny | 8% | 0,24 | CC-BY-4.0 / PD / CC-BY-SA |
| angielski (dosypka) | 10% | 0,30 | ODC-BY |

Web dzielony jest rozłącznie po `hash(document) mod 10`; wykorzystano 8 z 10 wycinków (dwa pozostają jako rezerwa). Brak wspólnych dokumentów między zbiorami.

Udziały określają **wagi próbkowania** przy treningu wieloprzebiegowym (docelowy budżet ~3 mld tokenów na zbiór), a nie fizyczny podział plików. Rdzeń, warstwa prawna i dosypka angielska są wspólnym backbonem (przechowywanym raz w `shared/` i referencjonowanym); rozłączny jest jedynie wycinek web. Kolumny `document_id`, `source_id`, `register` i `license` pozwalają odtworzyć dowolny budżet mieszania po stronie odbiorcy.

## Rejestry

`news · howto · qa · dialog · literacki · nauka · encyklopedyczny · opinie · legal · web-inne · info`

Rejestr `info` (treść informacyjna: opisy instytucji, produktów i usług, informacje praktyczne, niebędące wiadomościami, tekstem naukowym ani hasłem encyklopedycznym) dodano na podstawie weryfikacji ręcznej. Jego wpływ na jakość klasyfikacji jest w trakcie pomiaru.

## Higiena i przetwarzanie

- Deduplikacja dokładna (exact) po SHA-256 znormalizowanego tekstu: w pierwotnym web usunięto 0,002%; w finalnej próbie 480 000 tekstów (60k z każdego packa) nie znaleziono exact-duplicate (`0,0000%`). `document_id` między 8 packami web: overlap `0`.
- Dekontaminacja względem zbiorów ewaluacyjnych (8tags, polemo2, held-out) po hashach; usunięto dokumenty pokrywające się ze zbiorami testowymi.
- Deterministyczne reguły usuwania spamu i szablonów (katalogi SEO, profile spamowe, strony-zajawki, boilerplate nawigacyjny): w finalnym slice-0 kwarantanna 0,183%, wycięcie fragmentów 3,005% dokumentów.
- Klasyfikacja rejestrów: klasyfikator na osadzeniach (multilingual-e5 + logreg); etykieta `register` ma charakter orientacyjny.
- Deduplikacja near-dup w warstwie web: **nie wykonano**; pozostaje w toku.
- Segregacja licencyjna share-alike: komponenty CC-BY-SA trzymane w oddzielnych partycjach `core_sa.parquet` i `legal_sa.parquet`.

## Ograniczenia i zastrzeżenie

Zbiór został **wstępnie przetworzony** zgodnie z opisaną powyżej procedurą. **Nie gwarantujemy, że materiał został oczyszczony w stu procentach.** Procedura czyszczenia jest rozwijana iteracyjnie i może przepuścić pojedyncze przypadki szumu, spamu, treści niskiej jakości, pozostałości szablonów lub błędnej klasyfikacji rejestru. Zbiór należy traktować jako wstępnie przeczyszczony, nie jako materiał w pełni wyselekcjonowany i zweryfikowany.

Klasyfikacja rejestrów pochodzi z modelu i zawiera błędy. Zmierzona zgodność z weryfikacją ręczną wyniosła około 64% na próbie kontrolnej; część rozbieżności wynika z obiektywnej niejednoznaczności rejestrów granicznych (np. opinie/wiadomości/poradnik). Pole `register` należy traktować jako etykietę orientacyjną, nie jako klasyfikację referencyjną.

Placeholdery `[PII]`, `[Telefon]` obecne w tekstach pochodzą ze źródła (HPLT). Pełny audyt danych osobowych pozostaje po stronie odbiorcy, w szczególności przed publikacją lub zastosowaniami wrażliwymi.

Odbiorca powinien przeprowadzić własną weryfikację adekwatną do zastosowania. Autorzy nie ponoszą odpowiedzialności za pozostałości niepożądanych treści ani za skutki użycia zbioru.

## Licencje

Warstwa web: CC0-1.0. Pozostałe komponenty: licencje mieszane, rozstrzygane per źródło w `dataset.json` oraz `shared/manifest.json`. Komponenty na licencji CC-BY-SA (m.in. polqa, wikisource, wikipedia, wikibooks, wikivoyage, govpl, wolne_lektury) podlegają obowiązkowej segregacji do oddzielnej partycji share-alike i nie są mieszane z komponentami na licencjach permisywnych.

## Prowenencja

Warstwa web: `datasets/build/web` (HPLT v3 PL, katalog clean, 18 shardów, SHA-256 per plik). Rdzeń zróżnicowany: `datasets/build/shared-core`. Klasyfikator rejestrów: `slayer-dsbench/pipeline/register_*`. Pełny bilans, sumy kontrolne i liczby tokenów: `dataset.json` oraz manifesty poszczególnych zbiorów.

## Walidacja

`dsbench audit --card card.yaml --format formats/register.yaml` — walidacja schematu, rozkładu rejestrów, dekontaminacji, deduplikacji i licencji. Bramka uruchamiana w CI na pull requestach.

## Użycie

Dane w formacie parquet, tokenizacja po stronie odbiorcy (kontrakt niezależny od tokenizera). Pola `register`, `garbage` i `license` umożliwiają filtrowanie partycji do konkretnego zastosowania (np. wyłączenie komponentów share-alike przed publikacją, wybór wybranych rejestrów).