Downloads · 30 days
6
13% of all-time downloads
pocket-lm-269m-conversa
Magurofg/pocket-lm-269m-conversa
pocket-lm-269m-conversa is a machine learning model from Magurofg. Use it for the machine learning task on the model card, and read the license before you ship it in a product. It is set up for pytorch. The card lists the license as apache-2.0.
Pré-treino do zero (286M efetivos, 12h de H100, 7,6 bi de tokens) com a fase de decay dominada por diálogo pt-BR. Nome interno full-conversa-v1.
All-time downloads
45
Public
Parameters
286M
572 MB on disk
Likes
1
Public
Repo makeup
Click a slice to open those files.
.safetensors572 MB · 100%
At a glance
- Library
- pytorch
- License
- apache-2.0
- Access
- Public
- Created
- Aug 14, 2026
- Updated
- Aug 14, 2026
- SHA
- a1f333df
Model card
From the Hugging Face model README
Pocket-LM 269M — base conversa (conversa-v1)
Pré-treino do zero (286M efetivos, 12h de H100, 7,6 bi de tokens) com a fase de decay
dominada por diálogo pt-BR. Nome interno full-conversa-v1.
Mesma arquitetura da família: GPT 20 camadas / 16 cabeças / n_embd 1024 / contexto 512 / BPE 16.384. Pesos bf16 safetensors; código em MaxxArtes/pocket-lm-269m.
Números medidos
| métrica | valor |
|---|---|
| CALAME-PT | 48,55 |
| LAMBADA-PT | 32,23 |
| coerência de conversa (juiz binário, n=52) | 69,2 |
| manutenção de personagem | 82,7 |
| inventou fato | 6,7% |
| distinct-2 | 0,711 |
Aviso de receita (registrado em RECEITA.json): o dado premium de conversa rodou 81
épocas na fase de decay — acima do ponto (~40) onde a literatura e a nossa curva de dose
dizem que o valor zera. A régua e as lições estão no repositório.
Uso pretendido
Base para produtos de conversa curta em pt-BR (com SFT por cima). Sem alinhamento.
- Library
- pytorch
- License
- apache-2.0
- Languages
- pt
- Created
- Aug 14, 2026
- Updated
- Aug 14, 2026