BETO-finetuned-ner-3

NER-finetuned-BETO

Este es un modelo fine-tuned de NazaGara/NER-fine-tuned-BETO con el dataset conll2002. Los resultados fueron los siguientes:

• Loss: 0.2820
• Precision: 0.8773
• Recall: 0.8761
• F1: 0.8767
• Accuracy: 0.9812

Model description

Es un modelo de secuencias basado en BETO para la tarea de etiquetado de secuencias (NER - Named Entity Recognition) y ajustado (fine-tuned). Utiliza transformadores para identificar y clasificar entidades nombradas en el texto.

Intended uses & limitations

Intented uses:

• Reconocimiento de entidades nombradas en textos en español.
• Aplicaciones en procesamiento de lenguaje natural para extraer información estructurada de documentos no estructurados.

Limitations:

• El modelo puede tener un rendimiento reducido en textos que contienen lenguaje coloquial o jerga.
• Su precisión depende en gran medida de la calidad y diversidad de los datos de entrenamiento.
• El modelo puede no generalizar bien a dominios o contextos muy diferentes de los datos de entrenamiento.

Training and evaluation data

Training Data:

• El modelo fue entrenado utilizando un conjunto de datos etiquetado con entidades nombradas en español.
• Los datos de entrenamiento contienen diversos ejemplos de texto con diferentes tipos de entidades, como nombres de personas, organizaciones, y ubicaciones.

Evaluation Data:

• Los datos de evaluación se seleccionaron para medir el rendimiento del modelo en un conjunto de prueba diverso y representativo.
• Los resultados de la evaluación incluyen métricas como precisión, recall, F1-score y accuracy.

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• eval_strategy="steps",
• eval_steps=250,
• save_strategy="epoch",
• learning_rate=3e-5,
• num_train_epochs=20,
• per_device_train_batch_size=12,
• weight_decay=0.1,

Training results

[13880 / 13880, Epoch 20/20]

Framework versions

• Transformers 4.40.2
• Pytorch 2.2.1+cu121
• Datasets 2.19.1
• Tokenizers 0.19.1