Downloads · 30 days
6
33% of all-time downloads
Phi4-Mini-model-quantized-to-Q4
Leacim/Phi4-Mini-model-quantized-to-Q4
Phi4-Mini-model-quantized-to-Q4 is a machine learning model from Leacim. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as mit.
Este es un modelo GGUF cuantizado del modelo microsoft/phi-3-mini-4k-instruct.
All-time downloads
18
Public
Repo size
2.5 GB
Likes
0
Public
Repo makeup
Click a slice to open those files.
.gguf2.5 GB · 100%
At a glance
- License
- mit
- Access
- Public
- Created
- Aug 30, 2025
- Updated
- Aug 30, 2025
- SHA
- 1b9470bc
Model card
From the Hugging Face model README
Phi-4 Mini Q4_K GGUF
Este es un modelo GGUF cuantizado del modelo microsoft/phi-3-mini-4k-instruct.
Detalles del Modelo
- Modelo Base: microsoft/phi-3-mini-4k-instruct
- Método de Cuantización: Q4_K - Medium
- Librería: Convertido usando
llama.cpp.
Cómo Usarlo con llama.cpp
Puedes ejecutar este modelo usando el ejecutable llama-cli de llama.cpp:
./llama-cli -m ./phi4-mini-q4.gguf -p "Explícame qué es un transformador en IA en 3 frases." -n 128
- License
- mit
- Created
- Aug 30, 2025
- Updated
- Aug 30, 2025