---
license: apache-2.0
language:
- pt
tags:
- synapse-br
- pt-br
- portuguese
- llm
- dataset
- pretraining
- nlp
pretty_name: Synapse PT-BR 75M Dataset
size_categories:
- 10M<n<100M
---

# 🧠 Synapse PT-BR 75M Dataset

> Dataset em Português do Brasil desenvolvido pela **Comunidade Synapse-BR** para treinamento e ajuste fino de modelos de linguagem (LLMs).

## 🇧🇷 Sobre

O **Synapse PT-BR 75M Dataset** é um conjunto de dados em Português do Brasil cuidadosamente selecionado, organizado e processado para treinamento de modelos de linguagem.

O projeto faz parte da **Comunidade Synapse-BR**, que busca desenvolver recursos abertos para fortalecer o ecossistema de Inteligência Artificial em português.

## 🎯 Objetivos

- Desenvolver modelos de IA em Português do Brasil.
- Fornecer dados de alta qualidade para pré-treinamento e fine-tuning.
- Incentivar pesquisa, educação e projetos open source.
- Democratizar o acesso à IA em português.

## 📊 Distribuição

| Categoria | Percentual |
|-----------|-----------:|
| Conhecimento Geral | 50% |
| Perguntas e Respostas | 25% |
| Diálogos | 15% |
| Benchmarks e Lógica | 5% |
| Outros Conteúdos | 5% |

## 🧹 Processamento dos Dados

O dataset passou por etapas de processamento para melhorar sua qualidade:

- Normalização de texto (UTF-8).
- Remoção de duplicatas.
- Filtragem de conteúdos inadequados e com muito ruído.
- Padronização da estrutura.
- Exportação em formato JSONL.

## 💻 Como usar

```python
from datasets import load_dataset

dataset = load_dataset("Comunidade-Synapse-BR/Synapse-PT-75M-Dataset")

print(dataset["train"][0]["text"])
```

## 🤝 Comunidade Synapse-BR

A Comunidade Synapse-BR desenvolve projetos abertos relacionados a:

- Datasets
- Modelos de IA
- Ferramentas para IA
- Pesquisa
- Educação

Contribuições são bem-vindas por meio de Issues e Pull Requests.

## 📜 Licença

Este projeto está licenciado sob a **Apache License 2.0**.

---

**Comunidade Synapse-BR**

*"Construindo Inteligência Artificial em Português."*