msc-academy-rag-v1

MSC Academy RAG — v1

Modelo gerador compacto (0.5B) para o tutor Arquimedes da MSC Academy, pensado para responder ancorado na base de conhecimento da Academy (RAG).

🚧 Preview / v1. O componente de recuperação (base RAG) ainda está em construção — veja Status. Modelo pequeno, sem eval formal publicada.

O que é (e o que ainda não é)

Este repositório traz o modelo gerador do pipeline de tutoria da MSC Academy: um Qwen2.5-0.5B ajustado por LoRA/SFT para o papel de professor/tutor em português.

Na arquitetura pretendida, ele opera como o G de um sistema RAG: a recuperação traz trechos da base de conhecimento da Academy e o modelo gera a resposta ancorada nesse contexto. Ser honesto importa aqui: o adapter publicado é o gerador (SFT) — a base de recuperação (msc-academy-rag-v1 dataset, PT+EN) está em curadoria e ainda não está completa.

Para que serve

• Geração de respostas didáticas em PT para tutoria, dentro de um pipeline RAG.
• Base para experimentação de RAG de baixo custo em educação.

Fora de escopo: uso como modelo factual stand-alone (sem recuperação ele não tem a base de conhecimento), assistente geral, produção crítica.

Como foi treinado

• Base: Qwen/Qwen2.5-0.5B
• Método: LoRA / SFT com TRL.
• Infra: Hugging Face Jobs.
• Dados: dataset msc-academy-rag-v1 (PT + EN), em curadoria com gates de qualidade — validação de schema, varredura de segredos (sanitizado), varredura de PII (baixo risco), deduplicação (0 duplicatas) e revisão humana em andamento.

Status honesto

Seguimos a regra de só publicar número medido — por isso não há tabela de benchmark aqui. Entra quando o eval fechar.

Como usar

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = "Qwen/Qwen2.5-0.5B"
adapter = "Finish-him/msc-academy-rag-v1"

tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base)
model = PeftModel.from_pretrained(model, adapter)
# Em produção, injete o contexto recuperado antes do prompt do usuário.

Limitações

• 0.5B + preview: capacidade limitada, sem eval formal.
• Depende de recuperação: sozinho, não tem a base de conhecimento da Academy.
• Pode alucinar — em RAG, ancore sempre na fonte recuperada e cite o trecho.

Sobre a MSC / MSC Labs

A MSC constrói modelos pequenos especializados + pipelines RAG privados e baratos de operar. Quer um assistente ancorado nos seus dados, sem mandá-los para uma API de fronteira? A MSC Labs entrega fine-tuning e RAG done-for-you, com avaliação contra o seu baseline.

📩 [email protected] · 🔗 https://labs.msccompany.com.br