Update README.md
Browse files
README.md
CHANGED
@@ -157,6 +157,11 @@ model-index:
|
|
157 |
|
158 |
GemmBode é um modelo de linguagem ajustado para o idioma português, desenvolvido a partir do modelo Gemma-7b-it fornecido pela [Google](https://huggingface.co/google/gemma-7b-it).
|
159 |
|
|
|
|
|
|
|
|
|
|
|
160 |
|
161 |
# Treinamento
|
162 |
|
@@ -175,17 +180,6 @@ A seguinte configuração de quantização `bitsandbytes` foi usada durante o tr
|
|
175 |
- bnb_4bit_quant_storage: uint8
|
176 |
- load_in_4bit: True
|
177 |
- load_in_8bit: False
|
178 |
-
-
|
179 |
-
### Versões da estrutura
|
180 |
-
|
181 |
-
|
182 |
-
- PEFT 0.5.0
|
183 |
-
|
184 |
-
## Características Principais
|
185 |
-
|
186 |
-
- **Modelo Base:** Gemma-7b-it, criado pela Google, com 7 bilhões de parâmetros.
|
187 |
-
- **Dataset para Fine-tuning:** [UltraAlpaca](https://huggingface.co/datasets/recogna-nlp/ultra-alpaca-ptbr)
|
188 |
-
- **Treinamento:** O treinamento foi realizado a partir do fine-tuning, com QLoRA do gemma-7b-it.
|
189 |
|
190 |
# Resultados da avaliação do Open Portuguese LLM Leaderboard
|
191 |
|
|
|
157 |
|
158 |
GemmBode é um modelo de linguagem ajustado para o idioma português, desenvolvido a partir do modelo Gemma-7b-it fornecido pela [Google](https://huggingface.co/google/gemma-7b-it).
|
159 |
|
160 |
+
## Características Principais
|
161 |
+
|
162 |
+
- **Modelo Base:** Gemma-7b-it, criado pela Google, com 7 bilhões de parâmetros.
|
163 |
+
- **Dataset para Fine-tuning:** [UltraAlpaca](https://huggingface.co/datasets/recogna-nlp/ultra-alpaca-ptbr)
|
164 |
+
- **Treinamento:** O treinamento foi realizado a partir do fine-tuning, com QLoRA do gemma-7b-it.
|
165 |
|
166 |
# Treinamento
|
167 |
|
|
|
180 |
- bnb_4bit_quant_storage: uint8
|
181 |
- load_in_4bit: True
|
182 |
- load_in_8bit: False
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
183 |
|
184 |
# Resultados da avaliação do Open Portuguese LLM Leaderboard
|
185 |
|