Phi-3.5-mini-instruct-cactus-fr-GGUF

Phi-3.5-mini-instruct-cactus-fr-GGUF

Description

Phi-3.5-mini-instruct-cactus-fr-GGUF est un modèle de langage finetuné à partir de la version unsloth Phi-3.5-mini-instruct, en utilisant le dataset https://huggingface.co/datasets/innermost47/cactus-dialogues-fr, une collection de dialogues inspirés de la Thérapie Cognitivo-Comportementale (TCC) et traduits en français. Ce modèle a été affiné pour mieux répondre à des scénarios de counseling psychologique en français, en se concentrant sur l'utilisation des techniques de la TCC dans les interactions multi-tours.

Le modèle a été entraîné avec 1 epoch en utilisant la librairie Unsloth, et est au format GGUF, ce qui le rend compatible avec des outils comme llama.cpp et ollama pour une utilisation locale optimisée.

Utilisation

Chargement avec llama.cpp

Vous pouvez charger ce modèle avec llama.cpp en utilisant la commande suivante :

./main -m /path/to/your/model/Phi-3.5-mini-instruct-cactus-fr-GGUF.bin -p "Votre prompt ici"

Chargement avec Ollama

Pour utiliser Ollama, voici un exemple de commande pour charger le modèle :

ollama run -m /path/to/your/model/Phi-3.5-mini-instruct-cactus-fr-GGUF.bin "Votre prompt ici"

Autres librairies compatibles

Le modèle peut également être utilisé avec d'autres frameworks prenant en charge le format GGUF. Assurez-vous que votre environnement est bien configuré pour ces librairies.

Licence et reconnaissance

Le modèle original Phi-3.5-mini-instruct a été développé par Microsoft et est disponible ici. Ce modèle a été finetuné en utilisant le dataset https://huggingface.co/datasets/innermost47/cactus-dialogues-fr, une adaptation en français du dataset Cactus. Merci de respecter les licences associées lors de l'utilisation de ce modèle.