CrawlPT-pt-pt classified indexes
Collection
Esta coleção reúne um conjunto de índices auxiliares construídos sobre o dataset eduagarcia/CrawlPT_dedup, para permitir a extração de pt_pt. • 2 items • Updated
Datasets:
Dataset Viewer
The dataset viewer is not available for this subset.
Cannot get the split names for the config 'default' of the dataset.
Exception: SplitsNotFoundError
Message: The split names could not be parsed from the dataset config.
Traceback: Traceback (most recent call last):
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 286, in get_dataset_config_info
for split_generator in builder._split_generators(
~~~~~~~~~~~~~~~~~~~~~~~~~^
StreamingDownloadManager(base_path=builder.base_path, download_config=download_config)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/parquet/parquet.py", line 127, in _split_generators
self.info.features = datasets.Features.from_arrow_schema(pq.read_schema(f))
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/features/features.py", line 1961, in from_arrow_schema
else generate_from_arrow_type(field.type)
~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/features/features.py", line 1620, in generate_from_arrow_type
return Value(dtype=_arrow_to_datasets_dtype(pa_type))
~~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/features/features.py", line 123, in _arrow_to_datasets_dtype
raise ValueError(f"Arrow type {arrow_type} does not have a datasets dtype equivalent.")
ValueError: Arrow type fixed_size_binary[32] does not have a datasets dtype equivalent.
The above exception was the direct cause of the following exception:
Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/config/split_names.py", line 71, in compute_split_names_from_streaming_response
for split in get_dataset_split_names(
~~~~~~~~~~~~~~~~~~~~~~~^
path=dataset,
^^^^^^^^^^^^^
config_name=config,
^^^^^^^^^^^^^^^^^^^
token=hf_token,
^^^^^^^^^^^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 340, in get_dataset_split_names
info = get_dataset_config_info(
path,
...<6 lines>...
**config_kwargs,
)
File "/usr/local/lib/python3.14/site-packages/datasets/inspect.py", line 291, in get_dataset_config_info
raise SplitsNotFoundError("The split names could not be parsed from the dataset config.") from err
datasets.inspect.SplitsNotFoundError: The split names could not be parsed from the dataset config.Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
CC100 Index
Overview
O CC100 Index é um índice auxiliar construído sobre o subconjunto CC100 do corpus CrawlPT_dedup, destinado a permitir a seleção automática de documentos em Português Europeu (PT-PT).
O subconjunto CC100 corresponde à componente portuguesa do corpus CC100, originalmente desenvolvido pela Meta AI para o pré-treino de modelos multilingues, incluindo o XLM-R. Os documentos foram extraídos de snapshots históricos do Common Crawl através de filtragem automática por língua.
A versão presente no CrawlPT_dedup aplica um processo adicional de deduplicação documental, preservando o texto original e um conjunto reduzido de metadados associados ao processo de deduplicação.
O objetivo deste índice é fornecer, para cada documento, um conjunto reduzido de metadados que permita definir critérios de seleção para a construção de um novo subconjunto CC100-pt-pt, composto preferencialmente por documentos escritos em Português Europeu.
Source Dataset
- Dataset: CrawlPT_dedup
- Subconjunto: CC100
- Número de documentos: 38 059 979
- Tamanho aproximado do corpus original: 33 GB
- Capturado em: 2026-07-19 (cópia privada de referência, de modo a preservar a coerência do índice caso o dataset original venha a sofrer alterações)
Index Statistics
- Ficheiro:
cc100_index.parquet - Tamanho: aproximadamente 1.9 GB
- Número de registos: 38 059 979 (um por documento)
Cada linha do índice corresponde exatamente a um documento existente no subconjunto CC100.
Language Identification
A identificação da variante do português foi realizada utilizando o classificador fasttext-euptvid, desenvolvido por Duarte Carmo.
O modelo produz probabilidades independentes para Português Europeu (PT-PT) e Português do Brasil (PT-BR), permitindo definir limiares de confiança para a seleção dos documentos.
Este índice não altera o conteúdo textual do corpus original; limita-se a acrescentar informação auxiliar destinada ao processo de filtragem.
Schema
| Campo | Tipo | Descrição |
|---|---|---|
shard |
integer | Identificador do ficheiro Parquet onde o documento se encontra armazenado. |
row |
integer | Número da linha do documento dentro do respetivo ficheiro Parquet. |
id |
integer | Identificador original do documento no subconjunto CC100. |
sha256 |
string | Hash SHA-256 do conteúdo textual do documento, permitindo a sua identificação inequívoca. |
pt_pt |
float | Probabilidade estimada de o documento estar escrito em Português Europeu (PT-PT). |
pt_br |
float | Probabilidade estimada de o documento estar escrito em Português do Brasil (PT-BR). |
length_chars |
integer | Comprimento do documento em número de caracteres Unicode. |
Intended Use
O índice foi concebido para suportar operações de seleção documental sem necessidade de reprocessar integralmente o corpus original.
Os campos pt_pt e pt_br permitem definir critérios reproduzíveis para a construção de subconjuntos destinados ao treino de modelos específicos para Português Europeu. Os campos shard e row permitem localizar diretamente cada documento no corpus original, enquanto sha256 possibilita a deteção de duplicados e a verificação da integridade dos dados.
O índice pode igualmente ser utilizado para análises estatísticas, definição de limiares de classificação, amostragem estratificada e avaliação da distribuição das variantes do português presentes no corpus.
Dataset URLs
- https://huggingface.co/datasets/eduagarcia/CrawlPT_dedup
- https://huggingface.co/datasets/eduagarcia/CrawlPT
Classifier URL
- Downloads last month
- 38