Downloads · 30 days
14
100% of all-time downloads
mt5-small_ForConditionalGenerationto_GED-es
Ro551/mt5-small_ForConditionalGenerationto_GED-es
mt5-small_ForConditionalGenerationto_GED-es is a text generation model from Ro551. Use it when you need the model to write or continue text.
Este modelo está basado en mT5 y ha sido ajustado para realizar la deteccion de errores gramaticales en español.
All-time downloads
14
Public
Parameters
300M
3.6 GB on disk
Likes
0
Public
Repo makeup
Click a slice to open those files.
.safetensors1.2 GB · 98%
At a glance
- Task
- Text Generation
- Model type
- mt5
- Access
- Public
- Created
- Nov 6, 2025
- Updated
- Nov 7, 2025
- SHA
- a7497fee
Base models
Model card
From the Hugging Face model README
mt5-small_ForConditionalGenerationto_GED-es
Este modelo está basado en mT5 y ha sido ajustado para realizar la deteccion de errores gramaticales en español.
Uso
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
model = AutoModelForSeq2SeqLM.from_pretrained("mt5-small_ForConditionalGenerationto_GED-es")
tokenizer = AutoTokenizer.from_pretrained("mt5-small_ForConditionalGenerationto_GED-es")
inputs = tokenizer("Texto con errores gramatical", return_tensors="pt")
outputs = model.generate(**inputs)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
🧪Metricas por epoca
| epoch | loss | wer |
|---|---|---|
| 1 | 0.2663 | 0.0648 |
| 2 | 0.0473 | 0.0416 |
| 3 | 0.0265 | 0.0349 |
Evaluacion
La metrica utilizada es WER (Word Error Rate) sobre las secuencias generadas.
Entrenamiento
Este modelo fue entrenado utilizando Hugging Face Transformers, Datasets y Accelerate. El dataset fue generado sinteticamente para la tarea de correccion/deteccion de errores gramaticales (GEC) en español.
- Task
- Text Generation
- Type
- mt5
- Languages
- es
- Created
- Nov 6, 2025
- Updated
- Nov 7, 2025