{
  "schema_version": 1,
  "name": "slayer-pl-8x3b",
  "revision": "0.1.0",
  "unit": "tokens_cl100k",
  "format": "parquet",
  "opis": "Osiem rozłącznych polskich zbiorów treningowych po ~3 mld tokenów (łącznie ~24 mld). Każdy zbiór łączy rozłączny wycinek web (unikatowy między zbiorami) ze wspólnym rdzeniem zróżnicowanym rejestrowo, warstwą prawno-urzędową oraz dosypką angielską. Format wyjściowy: parquet; tokenizacja po stronie odbiorcy.",
  "record_schema": [
    "document_id",
    "source_id",
    "text",
    "register",
    "license",
    "provenance",
    "classified_by",
    "garbage"
  ],
  "registers": [
    "news",
    "howto",
    "qa",
    "dialog",
    "literacki",
    "nauka",
    "encyklopedyczny",
    "opinie",
    "legal",
    "web-inne",
    "info"
  ],
  "register_info_uwaga": "Rejestr 'info' (treść informacyjna: opisy instytucji/produktów/usług, informacje praktyczne — nie news/nauka/encyklopedia) dodany 2026-08-28 na podstawie weryfikacji ręcznej (~17% próbki). Wpływ na jakość klasyfikacji DO ZMIERZENIA.",
  "liczba_zbiorow": 8,
  "tokeny_lacznie_docelowo": 24.0,
  "sklad_na_zbior_tokeny_mld": {
    "web": 1.89,
    "diverse_core": 0.57,
    "legal": 0.24,
    "en": 0.3
  },
  "scenariusz_mieszania": "B (web 63% / rdzeń-zróżnicowany 19% / prawny 8% / EN 10%)",
  "komponenty": {
    "web_rozlaczny": {
      "tokeny_dostepne": 23.94,
      "wycinki": 10,
      "uzyte": 8,
      "na_zbior_docelowo": 1.89,
      "licencja": "CC0-1.0",
      "zrodlo": "hplt_v3_pl/clean",
      "status": "gotowy; tagowanie rejestrów + czyszczenie w toku",
      "rezerwa": "wycinki 8,9 nieużyte (zapas)"
    },
    "rdzen_zroznicowany": {
      "tokeny": 3.47,
      "na_zbior_docelowo": 0.57,
      "wspoldzielony": true,
      "sciezka": "shared/core/",
      "status": "gotowy",
      "per_rejestr": {
        "qa": 0.874,
        "literacki": 0.923,
        "encyklopedyczny": 0.735,
        "nauka": 0.665,
        "news": 0.277
      }
    },
    "prawny": {
      "tokeny_dostepne": 4.59,
      "na_zbior_docelowo": 0.24,
      "status": "on-hand, do cap-down",
      "zrodla": [
        "eurlex CC-BY-4.0",
        "parliamentary PD",
        "dziennik_ustaw PD",
        "govpl CC-BY-SA"
      ]
    },
    "en_dosypka": {
      "na_zbior_docelowo": 0.3,
      "tokeny_docelowo": 3.0,
      "status": "do pobrania",
      "zrodla": [
        "fineweb-edu ODC-BY",
        "finemath ODC-BY"
      ]
    }
  },
  "higiena": {
    "web_exact_dup_pct": 0.002,
    "web_decontam_usuniete": 10541,
    "near_dup_web": "do wykonania",
    "garbage_detektor": "kill ~0.24% + strip ~2.75% (deterministyczny)",
    "dekontaminacja": "względem 8tags/polemo2/_heldout (po hashach)"
  },
  "licencje": {
    "web": "CC0-1.0",
    "segregacja_SA": "OBOWIĄZKOWA: polqa/wikisource/wikipedia/wikibooks/wikivoyage/govpl/wolne_lektury = CC-BY-SA → osobna partycja *_sa.parquet; nie mieszać z permissive"
  },
  "podzial": "web dzielony rozłącznie hash(document)%10; użyte 8 wycinków; zero przecieku między zbiorami",
  "deduplikacja": "web: exact-dedup sha256(norm) globalny (0.002%) + dekontaminacja; near-dup w toku",
  "zbiory": [
    {
      "nazwa": "pack-00",
      "wycinek_web": "web-slice-0",
      "manifest": "pack-00/manifest.json",
      "status": "scaffold"
    },
    {
      "nazwa": "pack-01",
      "wycinek_web": "web-slice-1",
      "manifest": "pack-01/manifest.json",
      "status": "scaffold"
    },
    {
      "nazwa": "pack-02",
      "wycinek_web": "web-slice-2",
      "manifest": "pack-02/manifest.json",
      "status": "scaffold"
    },
    {
      "nazwa": "pack-03",
      "wycinek_web": "web-slice-3",
      "manifest": "pack-03/manifest.json",
      "status": "scaffold"
    },
    {
      "nazwa": "pack-04",
      "wycinek_web": "web-slice-4",
      "manifest": "pack-04/manifest.json",
      "status": "scaffold"
    },
    {
      "nazwa": "pack-05",
      "wycinek_web": "web-slice-5",
      "manifest": "pack-05/manifest.json",
      "status": "scaffold"
    },
    {
      "nazwa": "pack-06",
      "wycinek_web": "web-slice-6",
      "manifest": "pack-06/manifest.json",
      "status": "scaffold"
    },
    {
      "nazwa": "pack-07",
      "wycinek_web": "web-slice-7",
      "manifest": "pack-07/manifest.json",
      "status": "scaffold"
    }
  ],
  "status": "zbudowany (wstepnie przeczyszczony; near-dup web w toku)",
  "realizacja": {
    "web_tokeny_cl100k": 15120001641,
    "rdzen_tokeny_cl100k": 3708811994,
    "legal_permissive_cl100k": 1920115782,
    "legal_sa_cl100k": 80666129,
    "en_cl100k": 2401565319,
    "zbiory": [
      {
        "zbior": "pack-00",
        "web_wiersze": 1412141,
        "web_tokeny_cl100k": 1890000496
      },
      {
        "zbior": "pack-01",
        "web_wiersze": 1412646,
        "web_tokeny_cl100k": 1889999832
      },
      {
        "zbior": "pack-02",
        "web_wiersze": 1410439,
        "web_tokeny_cl100k": 1890000055
      },
      {
        "zbior": "pack-03",
        "web_wiersze": 1410705,
        "web_tokeny_cl100k": 1889999828
      },
      {
        "zbior": "pack-04",
        "web_wiersze": 1409654,
        "web_tokeny_cl100k": 1890000607
      },
      {
        "zbior": "pack-05",
        "web_wiersze": 1414474,
        "web_tokeny_cl100k": 1890000016
      },
      {
        "zbior": "pack-06",
        "web_wiersze": 1409692,
        "web_tokeny_cl100k": 1890000186
      },
      {
        "zbior": "pack-07",
        "web_wiersze": 1409898,
        "web_tokeny_cl100k": 1890000621
      }
    ],
    "backbone_fizyczny_tokeny_cl100k": 23231160865
  }
}