celulares-gemma3-4b-gguf

🤖 Celulares Gemma 3 4B v3 - Agente de Ventas (GGUF Q4_K_M)

Modelo Gemma 3 4B fine-tuned para ventas de celulares en español peruano.

📊 Especificaciones

🎯 Uso

Con Ollama

# Descargar el archivo GGUF
wget https://huggingface.co/alfonsodlg/celulares-gemma3-4b-gguf/resolve/main/celulares-v3-q4_k_m.gguf

# Crear Modelfile
cat > Modelfile << 'MODELFILE'
FROM ./celulares-v3-q4_k_m.gguf

TEMPLATE "<start_of_turn>user
{{ .Prompt }}<end_of_turn>
<start_of_turn>model
{{ .Response }}<end_of_turn>
"

SYSTEM "Eres un agente de ventas experto en celulares de Coolbox Perú. Tu personalidad es entusiasta, consultiva y orientada a resultados."

PARAMETER temperature 0.1
PARAMETER top_p 0.9
PARAMETER num_ctx 4096
PARAMETER stop "<end_of_turn>"
MODELFILE

# Importar a Ollama
ollama create celulares:v3-q4 -f Modelfile

Ejemplo de uso

import requests

response = requests.post('http://localhost:11434/api/generate', json={
    'model': 'celulares:v3-q4',
    'prompt': 'Busco un celular Samsung hasta 1500 soles',
    'stream': False
})
print(response.json()['response'])

📈 Métricas

• Tasa de éxito: 100% (9/9 tests críticos)
• Latencia: 3-8 segundos (respuesta completa)
• RAM: ~4GB

🏋️ Entrenamiento

• Plataforma: Modal (H100)
• Framework: Unsloth
• Dataset: 1,017 conversaciones de ventas
• Steps: 200
• Loss final: ~0.4

📝 Licencia

Apache 2.0

🔗 Enlaces

• Repositorio del proyecto
• Modelo base Gemma 3