stela-27b-v0.2-GGUF

Stela-27B v0.2 — GGUF quantizations

Quantizações GGUF do modelo daliu3/stela-27b-v0.2 — fine-tuning de unsloth/Qwen3.6-27B (QLoRA, r=64, α=64) para legislação brasileira aplicada a profissionais regulados (advogados, contadores, engenheiros), com Language-Mixed Chain-of-Thought (raciocínio em PT-BR com termos técnicos em EN, resposta final em PT-BR).

Sobre o Stela-27B

Stela-27B é um modelo open-source de 27 bilhões de parâmetros especializado no triângulo profissional brasileiro: Direito (advogado), Contabilidade (contador), Engenharia (engenheiro) — além de conhecimento transversal (LGPD, Lei 14.133, LAI, ABNT 6023). O nome é referência à estela do Código de Hammurabi.

Dataset Fase 2: 920 exemplos (700 sintéticos via DeepSeek-V4-Pro + 291 tier-3 auto-extraídos via Claude Code headless a partir de Soluções COSIT/DISIT, Súmulas CARF/STF/STJ/TST e OJs TST).

Loss train: 0.9087 • Loss eval (holdout 71 ex): 0.9782 • VRAM: 27.78 GB • Tempo: 59.08 min (A100 80GB).

Quantizações disponíveis

Nota: O arquivo *-mmproj.gguf é o projetor multimodal do Qwen3.6-VL e > não é necessário para inferência de texto puro (caso de uso do Stela).

Como usar

Ollama (recomendado para uso local)

ollama pull hf.co/daliu3/stela-27b-v0.2-GGUF:Q4_K_M
ollama run hf.co/daliu3/stela-27b-v0.2-GGUF:Q4_K_M

llama.cpp

huggingface-cli download daliu3/stela-27b-v0.2-GGUF stela-27b-v0.2.Q4_K_M.gguf --local-dir ./stela-gguf
./llama-cli -m ./stela-gguf/stela-27b-v0.2.Q4_K_M.gguf     -p "Qual o regime de apuração do PIS/COFINS para empresa do Lucro Real?" -n 1024

Python (llama-cpp-python)

from llama_cpp import Llama

llm = Llama.from_pretrained(
    repo_id="daliu3/stela-27b-v0.2-GGUF",
    filename="*Q4_K_M.gguf",
    n_ctx=8192,
    n_gpu_layers=-1,
)

resp = llm.create_chat_completion(
    messages=[
        {"role": "system", "content": "Você é Stela, assistente especializado em legislação brasileira."},
        {"role": "user", "content": "Quais os requisitos da NR-35 para trabalho em altura?"},
    ],
    max_tokens=1024,
)
print(resp["choices"][0]["message"]["content"])

Limitações

• Versão intermediária (v0.2): avaliação formal em OAB-Bench/CFC/CREA em andamento.
• Desbalanceamento por perfil: engenheiro (17,7%) e transversal (3,5%) sub-representados vs alvo 25%/5%. Performance em NRs/NBRs pode ser inferior às áreas de direito e contabilidade.
• Não substitui consulta profissional: para decisões oficiais (parecer, laudo, ART), consulte profissionais habilitados e a legislação vigente.
• Dataset misto (sintético + tier-3 auto-extraído): pode conter erros herdados dos modelos professores (DeepSeek-V4-Pro, Claude Sonnet 4.6).

Citação

@misc{stela27b2026v02,
  title         = {Stela-27B v0.2: LLM Especializado em Legislação Brasileira para Profissionais Regulados},
  author        = {Camilo, Leonardo},
  year          = {2026},
  publisher     = {HuggingFace},
  howpublished  = {\url{https://huggingface.co/daliu3/stela-27b-v0.2}}
}

Licença

Apache 2.0 — mesma do modelo base unsloth/Qwen3.6-27B.

Links

• Modelo merged 16-bit: daliu3/stela-27b-v0.2
• Repositório de código: github.com/leomcamilo/Stela-27B