README.md

metadata

pretty_name: slayer-pl-8x3b
language:
  - pl
  - en
license: other
license_name: mixed-cc0-ccby-ccbysa-odcby-pd
tags:
  - polish
  - pretraining
  - register-classification
  - web
size_categories:
  - 10M<n<100M

slayer-pl-8x3b

Osiem rozłącznych polskich zbiorów treningowych, po około 3 mld tokenów każdy (łącznie około 24 mld tokenów, licznik cl100k). Zbiory przeznaczone są do treningu wieloprzebiegowego: różnią się rozłącznym wycinkiem danych web (brak wspólnych dokumentów między zbiorami), natomiast współdzielą rdzeń zróżnicowany rejestrowo, warstwę prawno-urzędową oraz dosypkę angielską. Format wyjściowy: parquet. Tokenizacja pozostaje po stronie odbiorcy.

Kontrakt danych (dataset.json) jest źródłem prawdy: prowenencja, sumy kontrolne SHA-256, liczby tokenów, metody deduplikacji i dekontaminacji.

Status: scaffold — struktura, karta i manifesty są kompletne; pliki parquet komponentów są w trakcie napełniania (dosypka EN, tagowanie rejestrów, czyszczenie, złożenie zbiorów).

Struktura

slayer-pl-8x3b/
├── dataset.json          kontrakt/manifest zbiorczy
├── card.yaml             karta walidacyjna dsbench (format: register)
├── README.md
├── shared/
│   ├── core.parquet       rdzeń zróżnicowany permissive (~0,16 mld tok)
│   ├── core_sa.parquet    rdzeń zróżnicowany share-alike (~3,55 mld tok)
│   ├── legal.parquet      warstwa prawno-urzędowa permissive (~1,92 mld)
│   ├── legal_sa.parquet   warstwa prawno-urzędowa share-alike (~0,081 mld)
│   ├── en.parquet         dosypka angielska (~2,40 mld)
│   └── manifest.json
└── pack-00 … pack-07/     osiem zbiorów — rozłączny wycinek web
    ├── web.parquet        rozłączny wycinek web (register-tagged, ~1,89 mld)
    ├── manifest.json      komponenty (własny web + referencje shared), tokeny, SHA-256, rozkład rejestrów, wagi mieszania
    └── sample.jsonl

Schemat rekordu

document_id · source_id · text · register · license · provenance · classified_by · garbage

Skład zbioru (docelowy, na jeden zbiór ~3 mld)

Scenariusz mieszania B:

komponent	udział	tokeny (mld)	licencja
web (rozłączny)	63%	1,89	CC0-1.0
rdzeń zróżnicowany (wspólny)	19%	0,57	mieszana (segregacja SA)
prawny	8%	0,24	CC-BY-4.0 / PD / CC-BY-SA
angielski (dosypka)	10%	0,30	ODC-BY

Web dzielony jest rozłącznie po hash(document) mod 10; wykorzystano 8 z 10 wycinków (dwa pozostają jako rezerwa). Brak wspólnych dokumentów między zbiorami.

Udziały określają wagi próbkowania przy treningu wieloprzebiegowym (docelowy budżet ~3 mld tokenów na zbiór), a nie fizyczny podział plików. Rdzeń, warstwa prawna i dosypka angielska są wspólnym backbonem (przechowywanym raz w shared/ i referencjonowanym); rozłączny jest jedynie wycinek web. Kolumny document_id, source_id, register i license pozwalają odtworzyć dowolny budżet mieszania po stronie odbiorcy.

Rejestry

news · howto · qa · dialog · literacki · nauka · encyklopedyczny · opinie · legal · web-inne · info

Rejestr info (treść informacyjna: opisy instytucji, produktów i usług, informacje praktyczne, niebędące wiadomościami, tekstem naukowym ani hasłem encyklopedycznym) dodano na podstawie weryfikacji ręcznej. Jego wpływ na jakość klasyfikacji jest w trakcie pomiaru.

Higiena i przetwarzanie

• Deduplikacja dokładna (exact) po SHA-256 znormalizowanego tekstu: w pierwotnym web usunięto 0,002%; w finalnej próbie 480 000 tekstów (60k z każdego packa) nie znaleziono exact-duplicate (0,0000%). document_id między 8 packami web: overlap 0.
• Dekontaminacja względem zbiorów ewaluacyjnych (8tags, polemo2, held-out) po hashach; usunięto dokumenty pokrywające się ze zbiorami testowymi.
• Deterministyczne reguły usuwania spamu i szablonów (katalogi SEO, profile spamowe, strony-zajawki, boilerplate nawigacyjny): w finalnym slice-0 kwarantanna 0,183%, wycięcie fragmentów 3,005% dokumentów.
• Klasyfikacja rejestrów: klasyfikator na osadzeniach (multilingual-e5 + logreg); etykieta register ma charakter orientacyjny.
• Deduplikacja near-dup w warstwie web: nie wykonano; pozostaje w toku.
• Segregacja licencyjna share-alike: komponenty CC-BY-SA trzymane w oddzielnych partycjach core_sa.parquet i legal_sa.parquet.

Ograniczenia i zastrzeżenie

Zbiór został wstępnie przetworzony zgodnie z opisaną powyżej procedurą. Nie gwarantujemy, że materiał został oczyszczony w stu procentach. Procedura czyszczenia jest rozwijana iteracyjnie i może przepuścić pojedyncze przypadki szumu, spamu, treści niskiej jakości, pozostałości szablonów lub błędnej klasyfikacji rejestru. Zbiór należy traktować jako wstępnie przeczyszczony, nie jako materiał w pełni wyselekcjonowany i zweryfikowany.

Klasyfikacja rejestrów pochodzi z modelu i zawiera błędy. Zmierzona zgodność z weryfikacją ręczną wyniosła około 64% na próbie kontrolnej; część rozbieżności wynika z obiektywnej niejednoznaczności rejestrów granicznych (np. opinie/wiadomości/poradnik). Pole register należy traktować jako etykietę orientacyjną, nie jako klasyfikację referencyjną.

Placeholdery [PII], [Telefon] obecne w tekstach pochodzą ze źródła (HPLT). Pełny audyt danych osobowych pozostaje po stronie odbiorcy, w szczególności przed publikacją lub zastosowaniami wrażliwymi.

Odbiorca powinien przeprowadzić własną weryfikację adekwatną do zastosowania. Autorzy nie ponoszą odpowiedzialności za pozostałości niepożądanych treści ani za skutki użycia zbioru.

Licencje

Warstwa web: CC0-1.0. Pozostałe komponenty: licencje mieszane, rozstrzygane per źródło w dataset.json oraz shared/manifest.json. Komponenty na licencji CC-BY-SA (m.in. polqa, wikisource, wikipedia, wikibooks, wikivoyage, govpl, wolne_lektury) podlegają obowiązkowej segregacji do oddzielnej partycji share-alike i nie są mieszane z komponentami na licencjach permisywnych.

Prowenencja

Warstwa web: datasets/build/web (HPLT v3 PL, katalog clean, 18 shardów, SHA-256 per plik). Rdzeń zróżnicowany: datasets/build/shared-core. Klasyfikator rejestrów: slayer-dsbench/pipeline/register_*. Pełny bilans, sumy kontrolne i liczby tokenów: dataset.json oraz manifesty poszczególnych zbiorów.

Walidacja

dsbench audit --card card.yaml --format formats/register.yaml — walidacja schematu, rozkładu rejestrów, dekontaminacji, deduplikacji i licencji. Bramka uruchamiana w CI na pull requestach.

Użycie

Dane w formacie parquet, tokenizacja po stronie odbiorcy (kontrakt niezależny od tokenizera). Pola register, garbage i license umożliwiają filtrowanie partycji do konkretnego zastosowania (np. wyłączenie komponentów share-alike przed publikacją, wybór wybranych rejestrów).