Downloads · 30 days
32
8% of all-time downloads
ECE-PRYMMAL-0.5B-FT-V4-MUSR-Mathis
MEscriva/ECE-PRYMMAL-0.5B-FT-V4-MUSR-Mathis
ECE-PRYMMAL-0.5B-FT-V4-MUSR-Mathis is a question answering model from MEscriva. Use it when the input is a question plus a passage.
Ce modèle est une version fine-tunée de Qwen-0.5B optimisée pour le benchmark MUSR, atteignant : - Une amélioration de 40.52% de l'evalloss par rapport à la baseline - Une accuracy de 87% sur les questions multi-sourc…
All-time downloads
377
Public
Parameters
494M
5 GB on disk
Likes
1
Public
Repo makeup
Click a slice to open those files.
.safetensors1 GB · 98%
At a glance
- Task
- Question Answering
- Model type
- qwen2
- Access
- Public
- Created
- Oct 25, 2024
- Updated
- Nov 12, 2024
- SHA
- a0cbb130
Try a prompt
Datasets
Model card
From the Hugging Face model README
Qwen-0.5B-MUSR
Ce modèle est une version fine-tunée de Qwen-0.5B optimisée pour le benchmark MUSR, atteignant :
- Une amélioration de 40.52% de l'eval_loss par rapport à la baseline
- Une accuracy de 87% sur les questions multi-sources
- Une qualité de raisonnement parfaite (100%)
- Une utilisation quasi-parfaite des sources (97.5%)
Performances
- Accuracy: 0.87
- Reasoning Quality: 1.0
- Source Integration: 0.975
- Eval Loss: 1.036
Cas d'utilisation
Particulièrement efficace pour :
- Questions nécessitant l'intégration de multiples sources
- Raisonnement complexe
- Réponses explicatives détaillées
Configuration optimale :
- max_length: 170
- weight_decay: 0.1
- warmup_ratio: 0.07
- gradient_accumulation: 4
- scheduler: polynomial
- Task
- Question Answering
- Type
- qwen2
- Languages
- en
- Created
- Oct 25, 2024
- Updated
- Nov 12, 2024