Rafaelvieira432 commited on
Commit
9d14f3f
·
verified ·
1 Parent(s): 0054b0e

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +85 -0
README.md ADDED
@@ -0,0 +1,85 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ language:
4
+ - pt
5
+ tags:
6
+ - synapse-br
7
+ - pt-br
8
+ - portuguese
9
+ - llm
10
+ - dataset
11
+ - pretraining
12
+ - nlp
13
+ pretty_name: Synapse PT-BR 75M Dataset
14
+ size_categories:
15
+ - 10M<n<100M
16
+ ---
17
+
18
+ # 🧠 Synapse PT-BR 75M Dataset
19
+
20
+ > Dataset em Português do Brasil desenvolvido pela **Comunidade Synapse-BR** para treinamento e ajuste fino de modelos de linguagem (LLMs).
21
+
22
+ ## 🇧🇷 Sobre
23
+
24
+ O **Synapse PT-BR 75M Dataset** é um conjunto de dados em Português do Brasil cuidadosamente selecionado, organizado e processado para treinamento de modelos de linguagem.
25
+
26
+ O projeto faz parte da **Comunidade Synapse-BR**, que busca desenvolver recursos abertos para fortalecer o ecossistema de Inteligência Artificial em português.
27
+
28
+ ## 🎯 Objetivos
29
+
30
+ - Desenvolver modelos de IA em Português do Brasil.
31
+ - Fornecer dados de alta qualidade para pré-treinamento e fine-tuning.
32
+ - Incentivar pesquisa, educação e projetos open source.
33
+ - Democratizar o acesso à IA em português.
34
+
35
+ ## 📊 Distribuição
36
+
37
+ | Categoria | Percentual |
38
+ |-----------|-----------:|
39
+ | Conhecimento Geral | 50% |
40
+ | Perguntas e Respostas | 25% |
41
+ | Diálogos | 15% |
42
+ | Benchmarks e Lógica | 5% |
43
+ | Outros Conteúdos | 5% |
44
+
45
+ ## 🧹 Processamento dos Dados
46
+
47
+ O dataset passou por etapas de processamento para melhorar sua qualidade:
48
+
49
+ - Normalização de texto (UTF-8).
50
+ - Remoção de duplicatas.
51
+ - Filtragem de conteúdos inadequados e com muito ruído.
52
+ - Padronização da estrutura.
53
+ - Exportação em formato JSONL.
54
+
55
+ ## 💻 Como usar
56
+
57
+ ```python
58
+ from datasets import load_dataset
59
+
60
+ dataset = load_dataset("Comunidade-Synapse-BR/Synapse-PT-75M-Dataset")
61
+
62
+ print(dataset["train"][0]["text"])
63
+ ```
64
+
65
+ ## 🤝 Comunidade Synapse-BR
66
+
67
+ A Comunidade Synapse-BR desenvolve projetos abertos relacionados a:
68
+
69
+ - Datasets
70
+ - Modelos de IA
71
+ - Ferramentas para IA
72
+ - Pesquisa
73
+ - Educação
74
+
75
+ Contribuições são bem-vindas por meio de Issues e Pull Requests.
76
+
77
+ ## 📜 Licença
78
+
79
+ Este projeto está licenciado sob a **Apache License 2.0**.
80
+
81
+ ---
82
+
83
+ **Comunidade Synapse-BR**
84
+
85
+ *"Construindo Inteligência Artificial em Português."*