Downloads · 30 days
46
10% of all-time downloads
jpalmae/qwen35b-espanol-gguf-f16
qwen35b-espanol-gguf-f16 is a machine learning model from jpalmae. Use it for the machine learning task on the model card, and read the license before you ship it in a product. It is set up for llama.cpp. The card lists the license as mit.
Modelo multimodal en español basado en Qwen3.6-35B-A3B (MoE/SSM), fine-tuneado y abliterated para conversación en español, con soporte de visión mediante Qwen3VL.
Downloads · 30 days
46
10% of all-time downloads
All-time downloads
483
Public
Repo size
140 GB
Likes
0
Public
Click a slice to open those files.
.gguf70.3 GB · 100%
From the Hugging Face model README
Modelo multimodal en español basado en Qwen3.6-35B-A3B (MoE/SSM), fine-tuneado y abliterated para conversación en español, con soporte de visión mediante Qwen3VL.
Este repositorio contiene la versión GGUF F16 para ejecutarse con llama.cpp. Se distribuye en dos archivos: el modelo de texto y el proyector visual (mmproj).
| Archivo | Propósito | Tamaño |
|---|---|---|
model_qwen35b_espanol_text_F16.gguf | Modelo de lenguaje Qwen3.5 MoE (texto) | ~69.4 GB |
mmproj_qwen35b_espanol_F16.gguf | Proyector visual Qwen3VL | ~899 MB |
Carga ambos archivos: el modelo de texto y el mmproj.
llama-server \
--model model_qwen35b_espanol_text_F16.gguf \
--mmproj mmproj_qwen35b_espanol_F16.gguf \
--ctx-size 131072 \
--port 8080
Para un prompt con imagen:
llama-cli \
--model model_qwen35b_espanol_text_F16.gguf \
--mmproj mmproj_qwen35b_espanol_F16.gguf \
--image imagen.png \
--prompt "Describe esta imagen en español."
vLLM no carga GGUF. Usa el modelo completo en safetensors:
vllm serve jpalmae/qwen35b-espanol-abl-merged-v3
Repo: jpalmae/qwen35b-espanol-abl-merged-v3
| Atributo | Valor |
|---|---|
| Arquitectura del modelo de texto | qwen35moe |
| Capas del modelo de texto | 41 (40 hidden + 1 MTP) |
| Proyector visual | qwen3vl_merger (Qwen3VL) |
| Tensores del modelo de texto | 733 |
| Tensores del proyector | 334 |
| Precisión | F16 |
| Contexto | 131072 tokens |
| Idioma | Español (fine-tune sobre base multimodal) |
| Licencia | MIT |
/nvme1/models/qwen35b-espanol-abl-merged-v3 en servidor propio.convert_hf_to_gguf.py de llama.cpp, con --mmproj para el proyector visual.Este repo reemplazó al anterior model_qwen35b_espanol_F16_patched.gguf (text-only). Ahora incluye el par multimodal completo.
@misc{qwen35b-espanol-gguf-f16,
title={qwen35b-espanol-gguf-f16},
author={Jorge Palma Escobar},
year={2026},
howpublished={\url{https://huggingface.co/jpalmae/qwen35b-espanol-gguf-f16}}
}