Qwen2.5-0.5B-Portuguese-v1

Qwen2.5-0.5B finetuned for proficiency in Portuguese language and increased intelligence.

https://ollama.com/cnmoro/Qwen2.5-0.5B-Portuguese-v1

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "cnmoro/Qwen2.5-0.5B-Portuguese-v1"

model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained(model_name)

prompt = "Escreva uma breve introdução sobre LLMs (Large Language Models) e suas aplicações."

# System prompt is always injected and hardcoded automatically
# for ideal performance in portuguese language.
# No need to write it again.
messages = [
    {"role": "user", "content": prompt}
]
text = tokenizer.apply_chat_template(
    messages,
    tokenize=False,
    add_generation_prompt=True
)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)

generated_ids = model.generate(
    **model_inputs,
    max_new_tokens=512
)
generated_ids = [
    output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
]

response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
response
# LLM significa Large Language Models, que são modelos de linguagem computacional
# projetados para simular a inteligência humana no processamento e geração de texto.
# Esses modelos usam técnicas avançadas de aprendizado de máquina e redes neurais para
# compreender e gerar texto com base em dados de entrada. As aplicações de LLM incluem
# tradução automática, análise de sentimento, modelagem de tópicos e resposta a perguntas
# automatizadas. Eles estão sendo cada vez mais utilizados em diversas áreas, como
# saúde, educação e finanças, para melhorar a comunicação, as experiências dos clientes
# e os resultados da pesquisa.

Overall Results

Detailed Results

assin2_rte

assin2_sts

bluex

enem_challenge

faquad_nli

hatebr_offensive

oab_exams

portuguese_hate_speech

tweetsentbr

Model Meta Information

• Truncated Samples: 3863
• Non-Truncated Samples: 10287
• Padded Samples: 0
• Non-Padded Samples: 14150
• Fewshots Truncated: 3863
• Has Chat Template: True
• Chat Type: system_user_assistant
• Number of GPUs: 1
• Accelerate Number of Processes: N/A
• Model SHA: None
• Model Data Type: torch.bfloat16
• Model Memory Footprint: 988065664 bytes
• Model Number of Parameters: 494032768
• Model is Loaded in 4bit: N/A
• Model is Loaded in 8bit: N/A
• Model is Quantized: N/A
• Model Device: cuda:0
• Batch Size: 1
• Max Length: 512
• Max Context Length 480
• Max Generation Tokens: 32
• Effective Batch Size: 1.0

Open Portuguese LLM Leaderboard Evaluation Results

Detailed results can be found here and on the 🚀 Open Portuguese LLM Leaderboard