Downloads · 30 days
20
20% of all-time downloads
katya228/Hy-MT2-30B-A3B-ru-jp
Hy-MT2-30B-A3B-ru-jp is a translation model from katya228. Use it when you need text moved from one language to another. The card lists the license as other.
Дообучение Hy-MT2-30B-A3B на построчном переводе японской прозы с соблюдением справочника терминов. Адаптер вшит в веса с коэффициентом 1.2 — отдельный LoRA-файл не нужен.
Downloads · 30 days
20
20% of all-time downloads
All-time downloads
100
Public
Repo size
32 GB
Likes
1
Public
Click a slice to open those files.
.gguf32 GB · 100%
From the Hugging Face model README
Дообучение Hy-MT2-30B-A3B на построчном переводе японской прозы с соблюдением справочника терминов. Адаптер вшит в веса с коэффициентом 1.2 — отдельный LoRA-файл не нужен.
| файл | размер | зачем |
|---|---|---|
…-Q8_0.gguf | ~32 ГБ | рабочий вариант |
…-merged.gguf | 56 ГБ | f16, для своего квантования |
llama-server -m Hy-MT2-30B-A3B-ep1-x1.2-Q8_0.gguf --jinja \
-ngl 999 -c 16384 --temp 0.7 --top-p 1.0 --top-k 0 --repeat-penalty 1.05
Формат промта — как в обучении: блок справочника, затем предыдущий фрагмент как контекст (не переводить), затем инструкция и японский текст построчно.
temperature 0 модель склеивает строки, разорванные посреди слова.
Жадное декодирование не рекомендуется, рабочий диапазон 0.7.