Downloads · 30 days
7
1% of all-time downloads
anatel/cross-encoder-pt-anatel-metadados-assunto
cross-encoder-pt-anatel-metadados-assunto is a text classification model from anatel. Use it when you need a label for a piece of text. It is set up for transformers.
Este modelo foi treinado com o objetivo de ser utilizado para retreinar o modelo BERT para a tarefa de similaridade, mesmo com poucos exemplos rotulados. Adotamos a estratégia Augmented Bert. Treinamos o modelo cross-…
Downloads · 30 days
7
1% of all-time downloads
All-time downloads
736
Public
Repo size
3.1 GB
Likes
1
Public
Click a slice to open those files.
.bin1.3 GB · 100%
From the Hugging Face model README
Este modelo foi treinado com o objetivo de ser utilizado para retreinar o modelo BERT para a tarefa de similaridade, mesmo com poucos exemplos rotulados. Adotamos a estratégia Augmented Bert. Treinamos o modelo cross-encoder com a base rotulada.
Config :
Total de exemplos de treino = 64556
Total de exemplos de validação = 2100.
Epochs = 10
max_length = 512
train_batch_size = 4
Tempo de duração ~ 11h
Métricas = Correlation: Pearson: 0.9156 Spearman: 0.8699