Datasets:

inaciose
/

CrawlPT-OSCAR-2301-classified-pt-pt-index

Exception:    SplitsNotFoundError
Message:      The split names could not be parsed from the dataset config.
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
                  for split_generator in builder._split_generators(
                                         ~~~~~~~~~~~~~~~~~~~~~~~~~^
                      StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
                      ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/parquet/parquet.py", line 127, in _split_generators
                  self.info.features = datasets.Features.from_arrow_schema(pq.read_schema(f))
                                       ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/features/features.py", line 1961, in from_arrow_schema
                  else generate_from_arrow_type(field.type)
                       ~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/features/features.py", line 1620, in generate_from_arrow_type
                  return Value(dtype=_arrow_to_datasets_dtype(pa_type))
                                     ~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/features/features.py", line 123, in _arrow_to_datasets_dtype
                  raise ValueError(f"Arrow type {arrow_type} does not have a datasets dtype equivalent.")
              ValueError: Arrow type fixed_size_binary[32] does not have a datasets dtype equivalent.
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 71, in compute_split_names_from_streaming_response
                  for split in get_dataset_split_names(
                               ~~~~~~~~~~~~~~~~~~~~~~~^
                      path=dataset,
                      ^^^^^^^^^^^^^
                      config_name=config,
                      ^^^^^^^^^^^^^^^^^^^
                      token=hf_token,
                      ^^^^^^^^^^^^^^^
                  )
                  ^
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
                  info = get_dataset_config_info(
                      path,
                  ...<6 lines>...
                      **config_kwargs,
                  )
                File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
                  raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
              datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

CrawlPT-OSCAR-2301 Index

CrawlPT-OSCAR-2301-classified-pt-pt-index

Overview

O OSCAR-2301 Index é um índice auxiliar construído sobre o subconjunto OSCAR-2301 do corpus CrawlPT_dedup, destinado a permitir a seleção automática de documentos em Português Europeu (pt-pt).

O subconjunto OSCAR-2301 contém documentos provenientes da edição 23.01 do corpus OSCAR (Open Super-large Crawled Aggregated coRpus), construída a partir de páginas Web recolhidas pelo Common Crawl e filtradas automaticamente para língua portuguesa.

O CrawlPT_dedup corresponde à componente portuguesa do OSCAR após um processo de deduplicação documental, preservando igualmente os metadados específicos do corpus original. Entre todos os subconjuntos do CrawlPT_dedup, é aquele que apresenta a maior redução de documentos após a deduplicação, evidenciando um elevado nível de redundância existente na coleção original.

O objetivo deste índice é fornecer, para cada documento, um conjunto reduzido de metadados que permita definir critérios de seleção para a construção de um novo subconjunto OSCAR-2301-pt-pt, composto preferencialmente por documentos escritos em Português Europeu.

Source Dataset

Dataset: CrawlPT_dedup
Subconjunto: OSCAR-2301
Número de documentos: 10 888 966
Tamanho aproximado do corpus original: 40 GB
Capturado em 2026-07-19 (cópia privada de referẽncia, de modo a preservar a coerência do indíce se o dataset sofrer alterações)

Index Statistics

Ficheiro: oscar2301_index.parquet
Tamanho: aproximadamente 561 MB
Número de registos: 10 888 966 (um por documento)

Cada linha do índice corresponde exatamente a um documento existente no corpus OSCAR-2301.

Language Identification

A identificação da variante do português foi realizada utilizando o classificador fasttext-euptvid, desenvolvido por Duarte Carmo.

O modelo produz probabilidades independentes para Português Europeu (PT-PT) e Português do Brasil (PT-BR), permitindo definir limiares de confiança para a seleção dos documentos.

Este índice não altera o conteúdo textual do corpus original; limita-se a acrescentar informação auxiliar destinada ao processo de filtragem.

Schema

Campo	Tipo	Descrição
`shard`	integer	Identificador do ficheiro Parquet onde o documento se encontra armazenado.
`row`	integer	Número da linha do documento dentro do respetivo ficheiro Parquet.
`id`	integer	Identificador original do documento no corpus OSCAR-2301.
`sha256`	string	Hash SHA-256 do conteúdo textual do documento, permitindo a sua identificação inequívoca.
`pt_pt`	float	Probabilidade estimada de o documento estar escrito em Português Europeu (PT-PT).
`pt_br`	float	Probabilidade estimada de o documento estar escrito em Português do Brasil (PT-BR).
`length_chars`	integer	Comprimento do documento em número de caracteres Unicode.

Intended Use

O índice foi concebido para suportar operações de seleção documental sem necessidade de reprocessar integralmente o corpus original. Os campos pt_pt e pt_br permitem definir critérios reproduzíveis para a construção de subconjuntos destinados ao treino de modelos específicos para Português Europeu. Os campos shard e row permitem localizar diretamente cada documento no corpus original, enquanto sha256 possibilita a deteção de duplicados e a verificação da integridade dos dados. O índice pode igualmente ser utilizado para análises estatísticas, definição de limiares de classificação, amostragem estratificada e avaliação da distribuição das variantes do português presentes no corpus.

Datasets urls

https://huggingface.co/datasets/eduagarcia/CrawlPT_dedup https://huggingface.co/datasets/eduagarcia/CrawlPT

Classifier URL

https://huggingface.co/duarteocarmo/fasttext-euptvid

Downloads last month: 44

Total file size:

2.61 GB

Collection including inaciose/CrawlPT-OSCAR-2301-classified-pt-pt-index

CrawlPT-pt-pt classified indexes

Collection

Esta coleção reúne um conjunto de índices auxiliares construídos sobre o dataset eduagarcia/CrawlPT_dedup, para permitir a extração de pt_pt. • 2 items • Updated 12 days ago