Datasets:
license: apache-2.0
language:
- pt
tags:
- synapse-br
- pt-br
- portuguese
- llm
- dataset
- pretraining
- nlp
pretty_name: Synapse PT-BR 75M Dataset
size_categories:
- 10M<n<100M
🧠 Synapse PT-BR 75M Dataset
Dataset em Português do Brasil desenvolvido pela Comunidade Synapse-BR para treinamento e ajuste fino de modelos de linguagem (LLMs).
🇧🇷 Sobre
O Synapse PT-BR 75M Dataset é um conjunto de dados em Português do Brasil cuidadosamente selecionado, organizado e processado para treinamento de modelos de linguagem.
O projeto faz parte da Comunidade Synapse-BR, que busca desenvolver recursos abertos para fortalecer o ecossistema de Inteligência Artificial em português.
🎯 Objetivos
- Desenvolver modelos de IA em Português do Brasil.
- Fornecer dados de alta qualidade para pré-treinamento e fine-tuning.
- Incentivar pesquisa, educação e projetos open source.
- Democratizar o acesso à IA em português.
📊 Distribuição
| Categoria | Percentual |
|---|---|
| Conhecimento Geral | 50% |
| Perguntas e Respostas | 25% |
| Diálogos | 15% |
| Benchmarks e Lógica | 5% |
| Outros Conteúdos | 5% |
🧹 Processamento dos Dados
O dataset passou por etapas de processamento para melhorar sua qualidade:
- Normalização de texto (UTF-8).
- Remoção de duplicatas.
- Filtragem de conteúdos inadequados e com muito ruído.
- Padronização da estrutura.
- Exportação em formato JSONL.
💻 Como usar
from datasets import load_dataset
dataset = load_dataset("Comunidade-Synapse-BR/Synapse-PT-75M-Dataset")
print(dataset["train"][0]["text"])
🤝 Comunidade Synapse-BR
A Comunidade Synapse-BR desenvolve projetos abertos relacionados a:
- Datasets
- Modelos de IA
- Ferramentas para IA
- Pesquisa
- Educação
Contribuições são bem-vindas por meio de Issues e Pull Requests.
📜 Licença
Este projeto está licenciado sob a Apache License 2.0.
Comunidade Synapse-BR
"Construindo Inteligência Artificial em Português."