gpt2-it-185m-instruct

GPT-2 Italiano 185M Instruct

Modello GPT-2 italiano da circa 185 milioni di parametri, addestrato da zero e sottoposto a instruction tuning. Questa pubblicazione contiene la versione aggiornata addestrata su circa 4 miliardi di token.

Il progetto è stato realizzato con finalità didattiche per mostrare in classe il funzionamento, le potenzialità e soprattutto i limiti dei piccoli modelli linguistici.

Formato del prompt

### Istruzione:
{domanda}

### Risposta:

Template Jinja per LM Studio — solo modelli Instruct

Per i file Instruct usare una chat nuova con una sola domanda, senza system prompt. Incollare nel campo Jinja solo il contenuto del blocco seguente, senza i delimitatori Markdown. Questo template raccoglie i messaggi utente: una conversazione con più domande non è un uso supportato dal modello. Non aggiungere prefissi Human: o AI:.

Scarica il template come file .jinja.

{% for message in messages %}{% if message['role'] == 'user' and message['content'] is defined %}### Istruzione:
{{ message['content'] }}

### Risposta:
{% endif %}{% endfor %}

Il blocco è stato verificato con Jinja2, anche con un messaggio assistant privo di content. Questo non sostituisce una verifica nella specifica versione di LM Studio installata. Se una chat conserva un vecchio preset, ricaricare il modello e aprire una chat nuova.

Per aggirare del tutto la formattazione chat, usare il server locale di LM Studio e /v1/completions con il prompt testuale ### Istruzione:\nDOMANDA\n\n### Risposta:\n. Documentazione dei template.

Uso

from transformers import pipeline

generator = pipeline(
    "text-generation",
    model="emanuelealbertosi/gpt2-it-185m-instruct",
)

prompt = "### Istruzione:\nQual è la capitale della Francia?\n\n### Risposta:\n"
print(generator(prompt, max_new_tokens=100, temperature=0.4, do_sample=True))

Limiti

Il modello non è destinato alla produzione e non deve essere usato come fonte affidabile di informazioni. Può generare errori fattuali, contraddizioni e contenuti inventati con formulazioni plausibili. Questi limiti costituiscono una parte centrale del suo impiego didattico.

GGUF

Le conversioni GGUF, inclusa la precedente versione 184M, sono disponibili in emanuelealbertosi/gpt2-it-185m-gguf.

Licenza

Pesi distribuiti con licenza Apache 2.0.