File size: 3,020 Bytes
93055e9 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 | ---
pretty_name: project-gutenberg-clean
license: other
language:
- en
- pt
- es
- fr
- de
- it
task_categories:
- text-generation
- feature-extraction
tags:
- project-gutenberg
- books
- public-domain
- literature
- corpus
size_categories:
- 1K<n<10K
---
# project-gutenberg-clean
Dataset de livros do Project Gutenberg baixados via API Gutendex e limpos com foco em qualidade para treinamento de LLMs.
**Diferenciais desta versão:**
- **Limpeza Profunda:** Além de cabeçalhos e rodapés padrão, removemos notas de transcrição, prefácios de editores e artefatos de OCR (como tags `[Illustration]`, `[Music]`, etc.) em múltiplos idiomas (PT, EN, DE, ES, FR, IT).
- **Tratamento de Notas:** Identifica e remove blocos de notas delimitados por sequências de caracteres especiais (como hashes `####`).
- **Particionamento:** Organizado por idioma e dividido em splits (train, validation, test) pronto para uso com a biblioteca `datasets`.
Gerado em: `2026-05-21`
Total de registros: `9,544`
Modo de idioma: `all`
## Estrutura
```text
data/
en/
train.parquet
validation.parquet
test.parquet
pt/
train.parquet
validation.parquet
test.parquet
```
Também podem existir arquivos `.jsonl`, se gerados com `--formats parquet,jsonl`.
## Como carregar
```python
from datasets import load_dataset
# Exemplo para inglês
ds_en = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/en")
# Exemplo para português
ds_pt = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/pt")
```
## Campos
- `gutenberg_id`: ID do livro no Project Gutenberg.
- `title`: título do livro.
- `authors` e `author_names`: autores conforme metadados do Gutendex.
- `languages`: idiomas presentes nos metadados de origem.
- `language_partition`: idioma da pasta em que o registro foi salvo.
- `subjects`, `bookshelves`: categorias da origem.
- `copyright`: valor reportado pela origem.
- `gutenberg_url` e `source_text_url`: URLs de origem.
- `text`: texto limpo.
- `char_count`, `word_count`: métricas simples do texto limpo.
- `license_note`: nota de uso e limpeza.
## Contagem por idioma
| idioma | train | validation | test | total |
|---|---:|---:|---:|---:|
| `en` | 1,963 | 109 | 109 | 2,181 |
| `pt` | 583 | 32 | 32 | 647 |
| `es` | 738 | 41 | 41 | 820 |
| `fr` | 2,350 | 130 | 130 | 2,610 |
| `de` | 2,050 | 113 | 113 | 2,276 |
| `it` | 910 | 50 | 50 | 1,010 |
## Avisos de licença e uso
O Project Gutenberg é baseado nos EUA e seus textos são avaliados conforme a lei de copyright dos EUA. Este pipeline remove cabeçalhos/rodapés e referências de licença/trademark quando detecta marcadores, mas o usuário do dataset continua responsável por verificar permissões aplicáveis à sua jurisdição e ao seu caso de uso.
## Proveniência
- Metadados e links de download: Gutendex.
- Texto original: Project Gutenberg.
- Limpeza: `gutenberg-dataset-builder`.
|