BERTO-LOS-MUCHACHOS-1

<!-- This model card has been generated automatically according to the information the Trainer had access to. You should probably proofread and complete it, then remove this comment. -->

xml-roberta-large-finetuned-ner

Los siguientes son los resultados sobre el conjunto de evaluación:

• 'eval_loss': 0.0929097980260849,
• 'eval_precision': 0.8704318936877077,
• 'eval_recall': 0.8833942118572633,
• 'eval_f1': 0.8768651513038628,
• 'eval_accuracy': 0.982701988941157,

Model description

Este es el modelo más grande de roberta FacebookAI/xlm-roberta-large-finetuned-conll03-english- Este modelo fue ajustado usando el framework Kaggle [https://www.kaggle.com/settings]. Para realizar el preentrenamiento del modelo se tuvo que crear un directorio temporal en Kaggle con el fin de almacenar de manera temoporal el modelo que pesa alrededor de 35 Gz.

The following hyperparameters were used during training:

• eval_strategy="epoch",
• save_strategy="epoch",
• learning_rate=2e-5, # (Aprendizaje se esta cambiando)
• per_device_train_batch_size=16,
• per_device_eval_batch_size=16,
• num_train_epochs=5,
• weight_decay=0.1,
• max_grad_norm=1.0,
• adam_epsilon=1e-5,
• fp16=True,
• save_total_limit=2,
• load_best_model_at_end=True,
• push_to_hub=True,
• metric_for_best_model="f1",
• seed=42,