{ "komponenty": { "core.parquet": { "plik": "shared/core.parquet", "wiersze": 375216, "tokeny_cl100k": 162205785, "sha256": "ea0b4b901ace3780501b02a3972f014f77ce722315476e6f93681616958e0a99", "rozklad_rejestrow": { "literacki": 7402, "news": 354776, "qa": 13038 } }, "core_sa.parquet": { "plik": "shared/core_sa.parquet", "wiersze": 8204044, "tokeny_cl100k": 3546606209, "sha256": "910b18eeebbc26efbbd76554d7484d016c6df692a3b6a18492b5c9ceb32549cb", "rozklad_rejestrow": { "encyklopedyczny": 1188154, "literacki": 638082, "nauka": 41985, "qa": 6335823 } }, "legal.parquet": { "plik": "shared/legal.parquet", "wiersze": 262023, "tokeny_cl100k": 1920115782, "sha256": "6d4cc2f604d76452cd7e7ea52d1a04826f5e44f09bb035ba0853232fe373e74a", "rozklad_rejestrow": { "legal": 262023 } }, "legal_sa.parquet": { "plik": "shared/legal_sa.parquet", "wiersze": 88190, "tokeny_cl100k": 80666129, "sha256": "a1609cd31e12e0f6fdfdb030edb538bc230fc5f5ab376d23136180338e9dbd1e", "rozklad_rejestrow": { "legal": 88190 } }, "en.parquet": { "plik": "shared/en.parquet", "wiersze": 2384000, "tokeny_cl100k": 2401565319, "sha256": "f3d451b7a202d7748a598c6c958c38cbd42bfc981c8d2fcbc3cdd721276b935a", "rozklad_rejestrow": { "en": 2384000 } } }, "uwaga": "wspolny backbone referencjonowany przez 8 zbiorow; tokeny rdzenia prorata po wierszach, legal/en exact (tiktoken), SA w osobnych partycjach" }