akie-350m

<p align="center"> <img src="https://huggingface.co/AETHER-LAB/akie-350m/resolve/main/akie_icone.png" width="160"/> </p> <h1 align="center">AKIE</h1> <p align="center"><em>Adaptive Knowledge and Intelligence Engine</em></p> <p align="center"><strong>O primeiro ePLM — Evolutionary Personal LLM — 100% brasileiro</strong></p>

O que é o AKIE

AKIE é um modelo de linguagem treinado 100% do zero — arquitetura, tokenizer e embeddings próprios, sem partir de nenhum modelo de terceiros. É o motor por trás do NEXUS, o assistente conversacional da AETHER OS.

Desenvolvido pela AETHER Lab, o braço de pesquisa/modelo da AETHER OS — não uma equipe corporativa com orçamento ilimitado, mas uma pessoa construindo com o que tem, um treino de cada vez.

Por que "ePLM"

ePLM — Evolutionary Personal LLM é uma categoria própria, definida não pelo tamanho do modelo, mas pela filosofia de como ele nasce e como se relaciona com quem usa:

• Evolutionary — não nasce pronto. Cresce em etapas, cada treino é evolução, não substituição.
• Personal — construído por uma pessoa, não por corporação. E se adapta à pessoa que usa.
• LLM — o Large aqui não é sobre tamanho, é sobre ambição. Um ePLM começa pequeno, mas mira longe.

AKIE não é a IA maior, nem tenta competir em escala com os grandes laboratórios. É a alternativa real pra quem não tem acesso a eles — feita por alguém no mesmo lugar, sem orçamento de sobra pra errar em escala e corrigir depois. Isso não é discurso — é a restrição real sob a qual cada decisão de treino deste modelo foi tomada.

Status: pré-treino completo (1 época) — checkpoint base publicado, sem SFT ainda

Os pesos publicados aqui são o checkpoint de PRÉ-TREINO puro (step_63989), sem ajuste de instrução (SFT). Ele completa e continua texto — ainda não segue instrução de forma confiável, não tem comportamento de diálogo polido, e não deve ser tratado como assistente pronto. As capacidades descritas na seção de Filosofia abaixo são o objetivo do projeto, não o que este checkpoint específico já entrega.

• Arquitetura: 350M parâmetros (Llama-style: RMSNorm, SwiGLU, RoPE, 26 camadas, hidden=1024, 16 heads, embeddings compartilhadas)
• Corpus: ~6B tokens, 4 eixos (código, raciocínio, instruções, diálogo + conhecimento factual), 100% português do Brasil + código
• Contexto: 4096 tokens
• Pré-treino: 1 época completa, 63.989 steps, val_loss final 1,6064 (held-out fixo, nunca visto no treino)

Próxima etapa (em andamento): SFT (fine-tuning supervisionado) — pilotos exploratórios já mostraram sinal real de que capacidades como seguir instrução, raciocinar em <think> antes de responder, trocar de idioma e usar resultado de ferramenta corretamente respondem bem a SFT leve e barato sobre esse checkpoint. O modelo com SFT completo (o que de fato vira o motor do NEXUS) ainda não está publicado.

Filosofia

O objetivo não é bater benchmark — é um modelo que, quando o SFT estiver pronto, se comporte de forma confiável: verificar fatos antes de responder quando não tem certeza, admitir quando não sabe em vez de inventar, e ser transparente sobre a confiabilidade das fontes que usa. Pequeno, mas honesto — sobre o que sabe e sobre onde ainda está em construção.