mwydryn-7b-fersiwn-2

Mwydryn

(Fersiwn 2 yn seiliedig ar Mistral-7B.)

Mae'r model yn ddilyniant ar fersiwn o Mistral sydd yn medru sgwrsio a chyfathrebu drwy'r Gymraeg yn eithaf eglur, ond heb sail cryf iawn mewn ffeithiau arbennig (yn enwedig am Gymru yn anffodus).

Mae'r model LLM yn seiliedig ar BangorAI/mistral-7b-cy-epoch-2, sef y model Mistral-7B wedi hyfforddiant parhaus ar gyfer y Gymraeg.

Cafodd y model hyfforddiant cywrain pellach ar ddata yahma/alpaca-cleaned oedd wedi ei drosi yn fras.

Demo Byw

Mae fersiwn o'r model i'w gael yma am sgwrs: https://demo.bangor.ai.

LLM arbrofol ydyw, felly peidiwch a chymeryd unrhyw ymateb gan y model o ddifri.

Fformat Sgwrs

Mae'r hyfforddiant cywrain wedi defnyddio'r fformat Llama-2 ar gyfer sgwrsio.

<s>[INST] <<SYS>>
{{ system_prompt }}
<</SYS>>

{{ user_message }} [/INST]