Datasets:
Create README.md
Browse files
README.md
ADDED
|
@@ -0,0 +1,85 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: apache-2.0
|
| 3 |
+
language:
|
| 4 |
+
- pt
|
| 5 |
+
tags:
|
| 6 |
+
- synapse-br
|
| 7 |
+
- pt-br
|
| 8 |
+
- portuguese
|
| 9 |
+
- llm
|
| 10 |
+
- dataset
|
| 11 |
+
- pretraining
|
| 12 |
+
- nlp
|
| 13 |
+
pretty_name: Synapse PT-BR 75M Dataset
|
| 14 |
+
size_categories:
|
| 15 |
+
- 10M<n<100M
|
| 16 |
+
---
|
| 17 |
+
|
| 18 |
+
# 🧠 Synapse PT-BR 75M Dataset
|
| 19 |
+
|
| 20 |
+
> Dataset em Português do Brasil desenvolvido pela **Comunidade Synapse-BR** para treinamento e ajuste fino de modelos de linguagem (LLMs).
|
| 21 |
+
|
| 22 |
+
## 🇧🇷 Sobre
|
| 23 |
+
|
| 24 |
+
O **Synapse PT-BR 75M Dataset** é um conjunto de dados em Português do Brasil cuidadosamente selecionado, organizado e processado para treinamento de modelos de linguagem.
|
| 25 |
+
|
| 26 |
+
O projeto faz parte da **Comunidade Synapse-BR**, que busca desenvolver recursos abertos para fortalecer o ecossistema de Inteligência Artificial em português.
|
| 27 |
+
|
| 28 |
+
## 🎯 Objetivos
|
| 29 |
+
|
| 30 |
+
- Desenvolver modelos de IA em Português do Brasil.
|
| 31 |
+
- Fornecer dados de alta qualidade para pré-treinamento e fine-tuning.
|
| 32 |
+
- Incentivar pesquisa, educação e projetos open source.
|
| 33 |
+
- Democratizar o acesso à IA em português.
|
| 34 |
+
|
| 35 |
+
## 📊 Distribuição
|
| 36 |
+
|
| 37 |
+
| Categoria | Percentual |
|
| 38 |
+
|-----------|-----------:|
|
| 39 |
+
| Conhecimento Geral | 50% |
|
| 40 |
+
| Perguntas e Respostas | 25% |
|
| 41 |
+
| Diálogos | 15% |
|
| 42 |
+
| Benchmarks e Lógica | 5% |
|
| 43 |
+
| Outros Conteúdos | 5% |
|
| 44 |
+
|
| 45 |
+
## 🧹 Processamento dos Dados
|
| 46 |
+
|
| 47 |
+
O dataset passou por etapas de processamento para melhorar sua qualidade:
|
| 48 |
+
|
| 49 |
+
- Normalização de texto (UTF-8).
|
| 50 |
+
- Remoção de duplicatas.
|
| 51 |
+
- Filtragem de conteúdos inadequados e com muito ruído.
|
| 52 |
+
- Padronização da estrutura.
|
| 53 |
+
- Exportação em formato JSONL.
|
| 54 |
+
|
| 55 |
+
## 💻 Como usar
|
| 56 |
+
|
| 57 |
+
```python
|
| 58 |
+
from datasets import load_dataset
|
| 59 |
+
|
| 60 |
+
dataset = load_dataset("Comunidade-Synapse-BR/Synapse-PT-75M-Dataset")
|
| 61 |
+
|
| 62 |
+
print(dataset["train"][0]["text"])
|
| 63 |
+
```
|
| 64 |
+
|
| 65 |
+
## 🤝 Comunidade Synapse-BR
|
| 66 |
+
|
| 67 |
+
A Comunidade Synapse-BR desenvolve projetos abertos relacionados a:
|
| 68 |
+
|
| 69 |
+
- Datasets
|
| 70 |
+
- Modelos de IA
|
| 71 |
+
- Ferramentas para IA
|
| 72 |
+
- Pesquisa
|
| 73 |
+
- Educação
|
| 74 |
+
|
| 75 |
+
Contribuições são bem-vindas por meio de Issues e Pull Requests.
|
| 76 |
+
|
| 77 |
+
## 📜 Licença
|
| 78 |
+
|
| 79 |
+
Este projeto está licenciado sob a **Apache License 2.0**.
|
| 80 |
+
|
| 81 |
+
---
|
| 82 |
+
|
| 83 |
+
**Comunidade Synapse-BR**
|
| 84 |
+
|
| 85 |
+
*"Construindo Inteligência Artificial em Português."*
|