Downloads · 30 days
8
1% of all-time downloads
crscardellino/xi-ciai-cba-martin-fierro
xi-ciai-cba-martin-fierro is a text generation model from crscardellino. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as gpl-3.0.
Hugging Face: IA Colaborativa =============================
Downloads · 30 days
8
1% of all-time downloads
All-time downloads
538
Public
Repo size
1 GB
Likes
0
Public
Click a slice to open those files.
.bin510 MB · 98%
From the Hugging Face model README
En este repositorio estará disponible el código y modelo que entrené para la charla "Hugging Face: IA Colaborativa" del XI Congreso de Innovación, Ambiente e Ingeniería, de la Facultad de Ciencias Exactas, Físicas y Naturales, de la Universidad Nacional de Córdoba, Argentina, en 2023.
Para inicializar el setup hace falta tener instalado y activado
git-lfs.
Pueden clonar el repositorio con:
$ git clone https://huggingface.co/crscardellino/xi-ciai-cba-martin-fierro
Y luego crean el entorno e instalan los requerimientos.
$ python -m venv venv
$ source ./venv/bin/activate
(venv) $ pip install -r requirements.txt
El código está probado con Python 3.10, pero debería funcionar con Python >= 3.8. En los requerimientos está organizado para instalar PyTorch v2.0.0 para cpu, pero pueden ajustarlo para utilizar GPUs suponiendo que cumplan los requerimientos de CUDA.
This model is a fine-tuned version of
DeepESP/gpt2-spanish on the
./data/martin-fierro_train.txt dataset. It achieves the following results on
the evaluation set:
GPT-2 model finetuned on the poem "El Gaucho Martin Fierro"
This was trained for the talk "Hugging Face: IA Colaborativa" @ XI Congreso de Innovación, Ambiente e Ingeniería, Argentina, 2023.
The following hyperparameters were used during training:
| Training Loss | Epoch | Step | Validation Loss |
|---|---|---|---|
| 4.3864 | 1.0 | 18 | 4.2025 |
| 3.948 | 2.0 | 36 | 4.0440 |
| 3.7962 | 3.0 | 54 | 3.9804 |
| 3.6105 | 4.0 | 72 | 3.9458 |
| 3.4444 | 5.0 | 90 | 3.9280 |
| 3.3855 | 6.0 | 108 | 3.9192 |
| 3.3142 | 7.0 | 126 | 3.9091 |
| 3.2192 | 8.0 | 144 | 3.9074 |
| 3.1615 | 9.0 | 162 | 3.9070 |
| 3.1637 | 10.0 | 180 | 3.9067 |