Downloads · 30 days
6
3% of all-time downloads
michka/Melenchon-Nemo-12B-GGUF
Melenchon-Nemo-12B-GGUF is a machine learning model from michka. Use it for the machine learning task on the model card, and read the license before you ship it in a product. It is set up for llama.cpp. The card lists the license as other.
Modèle de langage fine-tuné pour parler comme Jean-Luc Mélenchon, quantifié en GGUF pour inférence locale avec llama.cpp.
Downloads · 30 days
6
3% of all-time downloads
All-time downloads
185
Public
Repo size
20.5 GB
Likes
0
Public
Click a slice to open those files.
.gguf20.5 GB · 100%
From the Hugging Face model README
Modèle de langage fine-tuné pour parler comme Jean-Luc Mélenchon, quantifié en GGUF pour inférence locale avec llama.cpp.
Mistral-Nemo-12B fine-tuné avec QLoRA sur des textes politiques.
Le modèle a été entraîné sur l'intégralité des articles du blog de Jean-Luc Mélenchon depuis 2014 :
| Fichier | Quantification | Taille | Usage recommandé |
|---|---|---|---|
Melenchon-Nemo-12B-Q4_K_M.gguf | Q4_K_M | 7.0 GB | Usage général, bon équilibre qualité/taille |
Melenchon-Nemo-12B-Q8_0.gguf | Q8_0 | 12.1 GB | Qualité maximale, VRAM ≥ 16 GB recommandée |
# Q4_K_M (7.0 GB)
llama-cli -m Melenchon-Nemo-12B-Q4_K_M.gguf -p "Bonjour Jean-Luc, que penses-tu de"
# Q8_0 (12.1 GB)
llama-cli -m Melenchon-Nemo-12B-Q8_0.gguf -p "Explique-moi ta vision de la VIe République"
Le modèle utilise le format Mistral-Nemo :
<|user|>
Ta question ici
<|assistant|>
Modèle dérivé de Mistral-Nemo-12B. Voir les conditions de la licence originale.