ro-nanochat-d20-chat

Beatrice v0.1 — model de limbaj în limba română

Beatrice v0.1 este un model de limbaj de 896 de milioane de parametri, antrenat de la zero pentru limba română, exclusiv pe date public disponibile.

Este un model experimental. Scopul lui nu a fost să concureze cu modele mari, ci să răspundă la o întrebare simplă:

Ce iese dacă antrenezi un model de limbaj românesc de la zero, folosind numai date publice, fără date sintetice și fără adnotare umană?

Beatrice este răspunsul la acea întrebare.

---

Ce știe să facă

• Scrie română corectă și naturală — gramatică, diacritice, topică firească, expresii idiomatice.
• Poartă o conversație — ține contextul de la o replică la alta.
• Înțelege intrare fără diacritice — răspunde corect chiar dacă i se scrie „ce faci" în loc de „ce faci".
• Citește și răspunde pe baza unui text dat — punctul ei cel mai puternic. Când primește un context, extrage răspunsul corect din el.

Ce NU știe să facă (important)

Beatrice este un model mic. Trebuie folosită cu așteptări pe măsură:

• Nu cunoaște fapte de încredere. Întrebată direct despre populații, ani, nume sau evenimente, va inventa răspunsuri care sună plauzibil, dar sunt adesea greșite. Nu o folosi ca sursă de informații.
• Nu spune „nu știu". Preferă să genereze un răspuns, chiar când nu are temeiul pentru el.
• Nu refuză cereri problematice și nu are filtre de siguranță.
• Se descurcă slab la întrebări de logică sau la matematică.

Recomandare: Beatrice funcționează cel mai bine cuplată cu o sursă de informații (căutare / RAG). Dă-i textul relevant și pune-o să răspundă pe baza lui — acolo excelează. Lăsată să răspundă „din memorie", va halucina.

---

Evaluare (1.020 de întrebări)

Evaluarea confirmă profilul de mai sus, cu cifre:

Cele două rezultate nu se contrazic — ele sunt profilul unui model de dimensiunea asta: un cititor foarte bun, nu o enciclopedie.

---

Testeaz-o local (cel mai simplu)

Repo-ul conține un script care face tot: instalează ce trebuie, aduce runtime-ul, descarcă modelul și pornește o interfață de chat în browser.

# 1. ia scriptul de pornire și serverul din acest repo
huggingface-cli download krakiun/ro-nanochat-d20-chat run.sh beatrice_server.py --local-dir beatrice

# 2. rulează
cd beatrice && bash run.sh

Apoi deschide http://localhost:8000 și conversează.

Necesită: python3 (>= 3.10) și git. Pe Apple Silicon folosește GPU-ul (MPS), pe plăci NVIDIA folosește CUDA, altfel CPU (mai lent, dar merge). Prima rulare descarcă PyTorch și modelul (~2.7 GB), deci durează câteva minute.

Rulare manuală (pentru integrare proprie)

Beatrice folosește arhitectura nanochat (d20). Nu este compatibilă cu llama.cpp / Ollama / LM Studio (arhitectură diferită), deci are nevoie de PyTorch și de codul nanochat.

Fișierele modelului:

• chat.part00 … chat.part07 — checkpoint-ul, împărțit în 8 bucăți
• tokenizer.pkl, token_bytes.pt — tokenizatorul (BPE, vocabular 32.768)
• meta_000220.json — configurația
• run.sh, beatrice_server.py — scriptul de pornire și serverul de chat

Reasamblarea manuală a checkpoint-ului:

cat chat.part* > model_000220.pt

Se plasează în structura nanochat ($NANOCHAT_BASE_DIR/chatsft_checkpoints/d20/ pentru model, .../tokenizer/ pentru tokenizator) și se încarcă cu nanochat.checkpoint_manager.load_model("sft", ...).

---

Identitate

Modelul se prezintă drept Beatrice și a fost creat de Crăciun Florentin Simion (krakiun).

---

Modelul următor

Beatrice v0.1 este prima etapă. Următorul model va fi antrenat pe un set de date mult mai bogat — date sintetice plus date scrise de oameni, nu doar text public brut — și este așteptat peste 1–2 luni. Va fi mai coerent, mai puțin predispus la halucinare și, foarte probabil, mai ușor de rulat.

---

Precizări

• Model experimental, publicat pentru cercetare și testare.
• Antrenat pe date public disponibile.
• Nu este destinat producției, deciziilor importante sau situațiilor în care acuratețea informației contează. Poate genera afirmații false.
• Licența acoperă greutățile modelului; verifică-o înainte de utilizare comercială.

---

Un proiect independent de cercetare în procesarea limbii române.