Downloads · 30 days
221
18% of all-time downloads
sarayar/Qwen2.5-Coder-7B-Instruct-GGUF-Q3_K_M
Qwen2.5-Coder-7B-Instruct-GGUF-Q3_K_M is a machine learning model from sarayar. Use it for the machine learning task on the model card, and read the license before you ship it in a product. The card lists the license as apache-2.0.
Esta es una versión cuantizada en formato GGUF (Q3KM) del modelo original Qwen/Qwen2.5-Coder-7B-Instruct.
Downloads · 30 days
221
18% of all-time downloads
All-time downloads
1.2K
Public
Repo size
3.8 GB
Likes
1
Public
Click a slice to open those files.
.gguf3.8 GB · 100%
From the Hugging Face model README
Esta es una versión cuantizada en formato GGUF (Q3_K_M) del modelo original Qwen/Qwen2.5-Coder-7B-Instruct.
Optimizada especialmente para correr de forma ultra fluida en GPUs con espacio de VRAM ajustado (como las tarjetas de 4 GB de VRAM), manteniendo un equilibrio excelente en tareas de desarrollo de software y programación.
Puedes descargar e interactuar con este modelo directamente usando Ollama ejecutando:
ollama run hf.co/sarayar/Qwen2.5-Coder-7B-Instruct-GGUF-Q3_K_M