Downloads · 30 days
34
15% of all-time downloads
URajinda/Qwen-1.5B-Burmese-SFT-GGUF
Qwen-1.5B-Burmese-SFT-GGUF is a machine learning model from URajinda. Use it for the machine learning task on the model card, and read the license before you ship it in a product.
မှတ်ချက် ။ ။ စမ်းသပ်ဆဲဗားရှင်းဖြစ်၍ မြန်မာလို မေးဖြေပြုလုပ်ရာ၌ အမှားအယွင်းများ ထုတ်ပေးပါသည်။ နောက်ထပ် အဆင့်မြှင့်လေ့ကျင့်မှုများ ထပ်မံပြုလုပ်သွားပါဦးမည်။
Downloads · 30 days
34
15% of all-time downloads
All-time downloads
232
Public
Repo size
4.1 GB
Likes
0
Public
Click a slice to open those files.
.gguf4.1 GB · 100%
From the Hugging Face model README
မှတ်ချက် ။ ။ စမ်းသပ်ဆဲဗားရှင်းဖြစ်၍ မြန်မာလို မေးဖြေပြုလုပ်ရာ၌ အမှားအယွင်းများ ထုတ်ပေးပါသည်။ နောက်ထပ် အဆင့်မြှင့်လေ့ကျင့်မှုများ ထပ်မံပြုလုပ်သွားပါဦးမည်။
ဤသည်မှာ URajinda/Qwen-1.5B-Burmese-SFT-v2 မော်ဒယ်ကို llama.cpp ဖြင့် GGUF Format သို့ ပြောင်းလဲထားသော Version ဖြစ်သည်။ ဤ GGUF ဖိုင်များသည် CPU သီးသန့်၊ သို့မဟုတ် VRAM နည်းသော ကွန်ပျူတာများတွင် ပိုမိုပေါ့ပါးလျင်မြန်စွာ အသုံးပြုနိုင်ရန် ရည်ရွယ်သည်။
ဤ Repository တွင် အောက်ပါ Quantization အမျိုးအစား (၂) မျိုး ပါဝင်သည်။
| File Name | Quantization Type | File Size (Approx.) | Use Case |
|---|---|---|---|
qwen-1.5b-burmese-f16.gguf | F16 (Float 16) | 3.1 GB | အမြင့်ဆုံး အရည်အသွေး (Highest fidelity) |
qwen-1.5b-burmese-q4_k_m.gguf | Q4_K_M (4-bit) | 986 MB | အမြန်နှုန်းနှင့် Memory သက်သာမှု (Fastest, best for low-RAM) |
llama.cpppython convert-hf-to-gguf.py /path/to/model --outfile qwen-1.5b-burmese-f16.gguf
./llama-quantize qwen-1.5b-burmese-f16.gguf qwen-1.5b-burmese-q4_k_m.gguf q4_k_m
GGUF ဖိုင်များကို အသုံးပြုရန်အတွက် အောက်ပါ Software များကို အသုံးပြုနိုင်ပါသည်။
UI ကို အသုံးပြုလိုပါက အောက်ပါ Desktop Applications များထဲမှ တစ်ခုကို Download လုပ်ပြီး GGUF ဖိုင်ကို ထည့်သွင်း အသုံးပြုနိုင်ပါသည်။
Llama.cpp ကို မိမိစက်တွင် Compile လုပ်ပြီးနောက် GGUF ဖိုင်ကို run နိုင်ပါသည်။
# Llama.cpp executable ကို build ပြီးနောက်
./main -m qwen-1.5b-burmese-q4_k_m.gguf -n 128 --temp 0.8 -p "Ven Rajindanandalankara(InseinYwama)"