Qwen3.5-9B-HSAQR-v2

Qwen3.5-9B-HSAQR-v2

HSAQR v2 — Modelo Qwen3.5-9B con el sistema HSAQ/HSAQR v2 aplicado (identificación automática de refusal → rewrite adaptativo → PWS global → fine-tune con HSAQ-optimizer).

Autor: Jesús Antonio Zárate Hernández (MethodWhite), M.A.T.E.R.I.A. Research, 2026.

Diferencia entre v1 y v2

Pipeline v2 aplicado

1. Identificación: auto-calibrada (IQR + magnitud relativa) → capas L17-L21, L23, L24, L29 con señal real de refusal.
2. Rewrite: refinamiento jerárquico de canales (hilos/cuerdas/hebras) + ortogonalización selectiva.
3. PWS global: dimensión intermedia del MLP 12288 → 7456 (config actualizado).
4. Fine-tune HSAQ-optimizer: QLoRA 4-bit + sparsity HSAQ en forward y gradiente (máscara STE, 0B estado de optimizer).

Datasets utilizados

Dos datasets con roles distintos — no confundir uno con otro:

Resultados medidos

• PWS: −39% pesos MLP (ahorro ~7 GB en disco)
• HSAQ-optimizer: acc 92.5% vs AdamW 72.5% vs SGD 55.3% (prueba controlada)
• RAM: 53.8% (AdamW) → 27-39% (HSAQ-optimizer)
• Router: sparsity 0.30→0.54 y threads 9→5 bajo saturación 94% (anti-overclock)

Formatos disponibles

La versión completa sin cuantizar (bf16) es la referencia. Los GGUF son adicionales para compatibilidad con Ollama, llama.cpp y LM Studio.

Uso

Python / Transformers (versión completa)

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("MethodWhite/Qwen3.5-9B-HSAQR-v2")
tokenizer = AutoTokenizer.from_pretrained("MethodWhite/Qwen3.5-9B-HSAQR-v2")

messages = [{"role": "user", "content": "Explain the water cycle in three sentences."}]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt")
out = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))

Ollama

# 1. Crear un Modelfile que apunte al GGUF
cat > Modelfile <<EOF
FROM ./Qwen3.5-9B-HSAQR-v2.Q4_K_M.gguf
TEMPLATE """{{- if .System }}<|im_start|>system
{{ .System }}<|im_end|>
{{- end }}
<|im_start|>user
{{ .Prompt }}<|im_end|>
<|im_start|>assistant
"""
SYSTEM """Eres un asistente de seguridad autorizado."""
EOF

# 2. Crear y ejecutar el modelo
ollama create qwen35-hsaqr-v2 -f Modelfile
ollama run qwen35-hsaqr-v2 "Explain the water cycle in three sentences."

llama.cpp

# Server local con el GGUF Q4_K_M
llama-server -m Qwen3.5-9B-HSAQR-v2.Q4_K_M.gguf \
  --port 8080 -ngl 99 --ctx-size 4096

# Cliente de chat
llama-cli -m Qwen3.5-9B-HSAQR-v2.Q4_K_M.gguf \
  --prompt "Explain the water cycle in three sentences." -n 200

LM Studio

1. Descarga Qwen3.5-9B-HSAQR-v2.Q4_K_M.gguf (o Q8_0).
2. En LM Studio: My Models → Local Models → Import.
3. Selecciona el archivo .gguf descargado.
4. En el panel de chat elige el modelo importado y lista.

Alcance de uso

Modelo de investigación para testing de seguridad autorizado (bug bounty, CTF, pentesting con permiso explícito, educación, investigación defensiva), consistente con las normas del campo.

Créditos

Jesús Antonio Zárate Hernández (MethodWhite). M.A.T.E.R.I.A. Research © 2026.

Si este trabajo te es útil, puedes invitarme un café ☕:

👉 https://buymeacoffee.com/methodwhite

También puedes apoyarme en Ko-fi:

👉 https://ko-fi.com/methodwhite