boombap-qwen-lora

Uploaded finetuned model

BoomBap Heritage - Assistente Virtual (BoomBot)

Este modelo foi treinado para atuar como o BoomBot, o assistente virtual da BoomBap Heritage, uma empresa fictícia de streetwear focada em resgatar a estética e a cultura da Golden Era do Hip-Hop (anos 80 e 90). Ele é capaz de responder dúvidas sobre produtos (moletons The Block, conjuntos B-Boy Stance, camisetas Five Elements), resolver objeções, explicar políticas de troca e detalhar o clube de assinatura The Crate Digger Box.

Modelo Base Utilizado: unsloth/Qwen2.5-3B-Instruct Técnica de Treinamento: PEFT (QLoRA)

Como carregar o modelo para inferência

Para carregar este modelo e gerar respostas, utilize o código abaixo com a biblioteca unsloth:

from unsloth import FastLanguageModel

# Carrega o modelo com os adaptadores LoRA aplicados
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "ArturMansur/boombap-qwen-lora",
    max_seq_length = 2048,
    dtype = None,
    load_in_4bit = True,
)
FastLanguageModel.for_inference(model)

# Monta o prompt de teste
messages = [
    {"role": "system", "content": "Você é o BoomBot, assistente virtual da BoomBap Heritage, marca de streetwear focada na Golden Era do Hip-Hop."},
    {"role": "user", "content": "O que vem no clube de assinatura The Crate Digger Box?"}
]

inputs = tokenizer.apply_chat_template(
    messages,
    tokenize=True,
    add_generation_prompt=True,
    return_tensors="pt",
).to("cuda")

# Gera a resposta
outputs = model.generate(input_ids=inputs, max_new_tokens=256, use_cache=True)
print(tokenizer.batch_decode(outputs[:, inputs.shape[1]:], skip_special_tokens=True)[0])