Downloads · 30 days
8
7% of all-time downloads
Khurram123/Qwen2-1.5B-Urdu-Finetuned
Qwen2-1.5B-Urdu-Finetuned is a machine learning model from Khurram123. Use it for the machine learning task on the model card, and read the license before you ship it in a product.
یہ ماڈل Qwen/Qwen2-1.5B-Instruct کا فائن ٹیون شدہ ورژن ہے، جسے خصوصی طور پر اردو زبان میں انسٹرکشن فالوونگ اور چیٹ کی صلاحیتوں کو بہتر بنانے کے لیے تیار کیا گیا ہے۔
Downloads · 30 days
8
7% of all-time downloads
All-time downloads
115
Public
Parameters
1.5B
3.1 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors3.1 GB · 99%
From the Hugging Face model README
یہ ماڈل Qwen/Qwen2-1.5B-Instruct کا فائن ٹیون شدہ ورژن ہے، جسے خصوصی طور پر اردو زبان میں انسٹرکشن فالوونگ اور چیٹ کی صلاحیتوں کو بہتر بنانے کے لیے تیار کیا گیا ہے۔
مقصد: اس ماڈل کا مقصد اردو زبان میں فطری اور مقامی طور پر متعلقہ جوابات فراہم کرنا ہے، جس سے یہ اردو بولنے والے صارفین کے لیے ایک مددگار چیٹ بوٹ بن سکے۔
| پیرامیٹر | ویلیو |
|---|---|
| بیس ماڈل (Base Model) | Qwen2-1.5B-Instruct |
| ڈیٹا سیٹ (Dataset) | mahwizzzz/urdu_alpaca_yc_filtered |
| فائن ٹیوننگ تکنیک | QLoRA (4-bit Quantization) |
| ٹریننگ لائبریری | TRL (SFTTrainer) |
| LoRA کنفیگریشن | r=16, lora_alpha=32 |
| Epochs کی تعداد | 2 |
| حتمی ٹریننگ Loss | ~0.64 (ایک بہترین Loss ویلیو) |
| ٹارگٹڈ ٹاسک | اردو میں بات چیت اور ہدایات پر عمل کرنا (Instruction Following) |
یہ ماڈل LoRA اڈاپٹرز کو بیس ماڈل سے ضم (Merge) کرنے کے بعد استعمال کے لیے تیار ہے۔ آپ اسے transformers اور torch کے ذریعے آسانی سے استعمال کر سکتے ہیں۔
ماڈل کو لوڈ کرنے اور جواب حاصل کرنے کا طریقہ:
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
# ریپوزیٹری کا نام (یقینی بنائیں کہ یہ آپ کی ریپو کا نام ہے)
model_id = "Khurram123/Qwen2-1.5B-Urdu-Finetuned"
# 1. ٹوکنائزر اور ماڈل لوڈ کریں
tokenizer = AutoTokenizer.from_pretrained(model_id)
# کم میموری والے GPU پر چلانے کے لیے bfloat16 استعمال کریں
model = AutoModelForCausalLM.from_pretrained(
model_id,
torch_dtype=torch.bfloat16,
device_map="auto"
)
# 2. انفرنس پرامپٹ تیار کریں
urdu_prompt = "درست جواب دیں: پاکستان کی قومی زبان کون سی ہے اور اس کی اہمیت کیا ہے؟"
messages = [
{"role": "system", "content": "آپ ایک مددگار اردو چیٹ بوٹ ہیں جو ہمیشہ بہترین اور مفید اردو میں جواب دیتا ہے۔"},
{"role": "user", "content": urdu_prompt},
]
input_text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
input_ids = tokenizer(input_text, return_tensors="pt").to(model.device)
# 3. جواب بنائیں
print("Generating response...")
with torch.no_grad():
output_tokens = model.generate(
**input_ids,
max_new_tokens=256,
do_sample=True,
temperature=0.7,
top_k=50,
top_p=0.95,
pad_token_id=tokenizer.eos_token_id
)
output_text = tokenizer.decode(output_tokens[0], skip_special_tokens=False)
# 4. نتیجہ دکھائیں
assistant_response = output_text.split("<|im_start|>assistant\n")[-1].strip().split("<|im_end|>")[0].strip()
print(f"\nASSISTANT: {assistant_response}")