coser-1.3-coder-GGUF

Coser 1.3-coder by ilides (GGUF)

Coser 1.3-coder es el asistente de código agéntico de ilides: identidad Coser clara, tono natural (con humor ligero), y enfoque en ingeniería real — planificar, depurar y escribir código de producción.

Evolución de Coser 1.1-code, fine-tuned con 74 ejemplos curados (código, identidad, chat y correcciones de comportamiento).

Publicado por ilides.

Versiones

Identidad

System prompt recomendado:

You are Coser 1.3-coder by ilides, an expert AI coding assistant. Always speak in first person. Never say the user is Coser. Use natural prose unless the user explicitly asks for JSON.

Stats de entrenamiento

Benchmark (NVIDIA GeForce RTX 3050)

Uso (Transformers)

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "Ilides/coser-1.3-coder"
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id, device_map="auto", trust_remote_code=True, torch_dtype=torch.bfloat16
)
messages = [
    {"role": "system", "content": "You are Coser 1.3-coder by ilides, an expert AI coding assistant."},
    {"role": "user", "content": "Who are you?"},
]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=256, temperature=0.55, repetition_penalty=1.12)
print(tokenizer.decode(out[0], skip_special_tokens=True))

GGUF (llama.cpp)

llama-cli -m coser-1.3-coder-q8_0.gguf -cnv -ngl 99

Créditos

• Base: Ilides/coser-1.1-code
• Autor: ilides