|
--- |
|
license: mit |
|
datasets: |
|
- innermost47/cactus-dialogues-fr |
|
language: |
|
- fr |
|
base_model: unsloth/Phi-3.5-mini-instruct |
|
--- |
|
|
|
|
|
# Phi-3.5-mini-instruct-cactus-fr-GGUF |
|
|
|
## Description |
|
|
|
**Phi-3.5-mini-instruct-cactus-fr-GGUF** est un modèle de langage finetuné à partir de la version unsloth [Phi-3.5-mini-instruct](https://huggingface.co/unsloth/Phi-3.5-mini-instruct), en utilisant le dataset https://huggingface.co/datasets/innermost47/cactus-dialogues-fr, une collection de dialogues inspirés de la Thérapie Cognitivo-Comportementale (TCC) et traduits en français. Ce modèle a été affiné pour mieux répondre à des scénarios de counseling psychologique en français, en se concentrant sur l'utilisation des techniques de la TCC dans les interactions multi-tours. |
|
|
|
Le modèle a été entraîné avec **1 epoch** en utilisant la librairie **Unsloth**, et est au format **GGUF**, ce qui le rend compatible avec des outils comme **llama.cpp** et **ollama** pour une utilisation locale optimisée. |
|
|
|
## Utilisation |
|
|
|
### Chargement avec llama.cpp |
|
|
|
Vous pouvez charger ce modèle avec **llama.cpp** en utilisant la commande suivante : |
|
|
|
```bash |
|
./main -m /path/to/your/model/Phi-3.5-mini-instruct-cactus-fr-GGUF.bin -p "Votre prompt ici" |
|
``` |
|
|
|
### Chargement avec Ollama |
|
|
|
Pour utiliser **Ollama**, voici un exemple de commande pour charger le modèle : |
|
|
|
```bash |
|
ollama run -m /path/to/your/model/Phi-3.5-mini-instruct-cactus-fr-GGUF.bin "Votre prompt ici" |
|
``` |
|
|
|
### Autres librairies compatibles |
|
|
|
Le modèle peut également être utilisé avec d'autres frameworks prenant en charge le format **GGUF**. Assurez-vous que votre environnement est bien configuré pour ces librairies. |
|
|
|
## Licence et reconnaissance |
|
|
|
Le modèle original **Phi-3.5-mini-instruct** a été développé par Microsoft et est disponible [ici](https://huggingface.co/microsoft/Phi-3.5-mini-instruct). Ce modèle a été finetuné en utilisant le dataset https://huggingface.co/datasets/innermost47/cactus-dialogues-fr, une adaptation en français du dataset [Cactus](https://huggingface.co/datasets/cactus-camel/cactus). Merci de respecter les licences associées lors de l'utilisation de ce modèle. |
