slm-indic-punjabi-extended-llama-pretrained

Info

<!-- Provide a quick summary of what the model is/does. -->

This model is a small language model continued pretrain on LLAMA_3.2 1-Billion from scratch on Punjabi Indic language corpora. It is designed to support low-resource language modeling tasks, especially text generation.

Repository: https://huggingface.co/prthmgoyl/slm-indic-punjabi-extended-llama-pretrained

Model Description

<!-- Provide a longer summary of what this model is. -->

• Developed by: Pratham Goyal

Direct Use

<!-- Address questions around how the model is intended to be used, including the foreseeable users of the model and those affected by the model. -->

from transformers import AutoModelForCausalLM, AutoTokenizer


model_path = "prthmgoyl/slm-indic-punjabi-extended-llama-pretrained"  


model = AutoModelForCausalLM.from_pretrained(model_path)

tokenizer = AutoTokenizer.from_pretrained(model_path) 
# device = "cuda"
# model.to(device)

For Punjabi

input_text = "ਮੇਰਾ ਨਾਮ ਪ੍ਰਥਮ ਹੈ,"
inputs = tokenizer(input_text, return_tensors="pt")
# inputs = {key: value.to(device) for key, value in inputs.items()}

outputs = model.generate(
    inputs["input_ids"],
    max_length=1000,
    do_sample=True,      
    top_p=0.95,          
    temperature=0.8, 
    top_k=50,            
    num_return_sequences=1  
)

generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(generated_text)

Output

ਮੇਰਾ ਨਾਮ ਪ੍ਰਥਮ ਹੈ, ਕਿਉਂਕਿ ਮੈਂ ਸਦਾ ਲਈ ਇੱਕ ਬਿੱਲੀ ਨਾਲ ਕਿਵੇਂ ਵੇਖਿਆ ਹੈ. ਇਸ ਦੇ ਨਾਲ, ਮੈਨੂੰ ਇੱਕ ਸਿਰਫ਼ ਬਹੁਤ ਹੀ ਸਹੀ ਵਿਚਾਰ ਹੈ ਕਿ ਮੈਂ ਇੱਕ ਬਹੁਤ ਹੀ ਛੋਟਾ ਪਰ ਮੇਰਾ ਨਾਮ ਕਿਵੇਂ ਵੇਖਦਾ ਹਾਂ. ਇਸ ਲਈ, ਤੁਹਾਨੂੰ ਉਸ ਨੇ ਤੁਰੰਤ ਆਪਣੇ ਬੱਚੇ ਨੂੰ ਇੱਕ ਬਹੁਤ ਹੀ ਆਸਾਨੀ ਨਾਲ ਪੜ੍ਹਨ ਦਾ ਫੈਸਲਾ ਕੀਤਾ. ਮੈਂ ਤੁਹਾਡੇ ਬੱਚੇ ਨੂੰ ਤੁਹਾਡੇ ਬੱਚੇ ਨੂੰ ਸਹੀ ਦੇਖਭਾਲ ਕਰਨ ਲਈ ਪ੍ਰੇਰਿਤ ਕਰਦਾ ਹਾਂ ਅਤੇ ਤੁਹਾਡੇ ਬੱਚੇ ਨੂੰ ਆਪਣੇ ਪਰਿਵਾਰ ਨਾਲ ਜੋੜਿਆ. ਕੁਝ ਮਾਮਲਿਆਂ ਵਿੱਚ, ਬੱਚੇ ਨੂੰ ਆਪਣੀ ਜ਼ਿੰਦਗੀ ਦੇ ਮੌਕੇ ਤੇ ਇੱਕ ਬੱਚੇ ਨੂੰ ਇੱਕ ਚੰਗੀ ਉਮਰ ਦਾ ਸੰਕੇਤ ਮਿਲਦਾ ਹੈ. ਮੁੰਬਈ : ਆਇਰਲੈਂਡ ਵਿਚ ਕੋਰੋਨਾ ਵਾਇਰਸ ਦੇ ਮਰੀਜ਼ਾਂ ਨੂੰ ਮਿਲੀ ਮੌਤ ਦੀ ਖਬਰ ਮਿਲੀ ਹੈ। ਪ੍ਰਾਪਤ ਜਾਣਕਾਰੀ ਮੁਤਾਬਕ ਅੱਜ ਇਕ ਅਜਿਹੀ ਘਟਨਾ ਸਾਹਮਣੇ ਆਈ ਹੈ ਜਿਸ ‘ਚ ਉਸ ਨੂੰ ਹਸਪਤਾਲ ਵਿਚ ਦਾਖ਼ਲ ਕਰਵਾਇਆ ਗਿਆ ਹੈ ਅਤੇ ਉਸ ਨੂੰ ਹਸਪਤਾਲ ਵਿਚ ਦਾਖ਼ਲ ਕਰਵਾਇਆ ਗਿਆ ਹੈ। ਇਸ ਵਿਚ ਕੋਰੋਨਾ ਵਾਇਰਸ ਦੇ ਮਰੀਜ਼ਾਂ ਨੂੰ ਹਸਪਤਾਲ ‘ਚ ਦਾਖ਼ਲ ਕਰਵਾਇਆ ਗਿਆ ਹੈ। ਅੱਜ ਪਿੰਡ ਵਾਸੀਆਂ ਨੇ ਇਸ ਵਾਇਰਸ ਨੂੰ ਫੈਲਣ ਤੋਂ ਰੋਕਣ ਲਈ ਉਹ ਅੱਜ ਇਥੇ ਦਾਖ਼ਲ ਕਰਵਾਇਆ ਗਿਆ ਹੈ। ਇਥੇ ਦੱਸਣਯੋਗ ਹੈ ਕਿ ਇਸ ਸਾਲ ਦੀ ਸ਼ੁਰੂਆਤ ‘ਚ ਕੋਰੋਨਾ ਵਾਇਰਸ ਕਾਰਨ ਮਹਾਰਾਸ਼ਟਰ ‘ਚ ਹਵਾਈ ਫ਼ੌਜ ਦੇ ਜਹਾਜ਼ ‘ਚ ਪਾਜ਼ੇਟਿਵ ਪਾਏ ਗਏ ਹਨ। ਇਸ ਦੇ ਨਾਲ ਹੀ ਦੇਸ਼ ਭਰ ‘ਚ ਮਹਾਰਾਸ਼ਟਰ ‘ਚ ਕੰਮ ਕਰ ਰਹੇ ਹਨ। ਜਹਾਜ਼ ‘ਚ ਪਾਏ ਗਏ ਪਾਜ਼ੇਟਿਵ ਪਾਏ ਜਾਣ ਤੋਂ ਬਾਅਦ ਹੁਣ ਤਕ ਦੇਸ਼ ‘ਚ ਮਹਾਰਾਸ਼ਟਰ ‘ਚ ਦਹਿਸ਼ਤ ਦਾ ਮਾਹੌਲ ਪੈਦਾ ਹੋ ਗਿਆ ਹੈ। ਇਸ ਦੇ ਨਾਲ ਹੀ ਲੋਕਾਂ ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਦਾ ਜਾਨੀ ਨੁਕਸਾਨ ਵੀ ਹੋਣ ਦੇਣਾ ਹੈ। ਇਸ ਦੇ ਚਲਦੇ ਦੇਸ਼ ‘ਚ ਬਹੁਤ ਸਾਰੇ ਜਹਾਜ਼ਾਂ ਨੂੰ ਪਾਣੀ ਵਿਚ ਹੀ ਫੈਲਾਉਣ ਦੇ ਮਾਮਲਿਆਂ ‘ਚ ਵੀ ਵਾਧਾ ਮਿਲ ਰਿਹਾ ਹੈ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਜਹਾਜ਼ਾਂ ਵਿਚ ਪਾਏ ਗਏ ਪਾਜ਼ੇਟਿਵ ਮਰੀਜ਼ਾਂ ਦੇ ਇਲਾਜ ‘ਚ ਵੀ ਵਾਧਾ ਹੋਇਆ ਹੈ ਪਰ ਪਿੰਡ ‘ਚ ਕੰਮ ਕਰਨ ਦੀ ਗੱਲ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਇਸ ਕਾਰਨ ਦੇਸ਼ ਭਰ ‘ਚ ਮਹਾਰਾਸ਼ਟਰ ‘ਚ ਇਸ ਸਾਲ ਵੀ ਕੰਮ ਕਰ ਰਹੇ ਹਨ। ਇਸ ਦੇ ਚਲਦੇ ਕਈ ਦੇਸ਼ ਭਾਰਤ ‘ਚ ਹਸਪਤਾਲ ‘ਚ ਦਾਖ਼ਲ ਹਨ। ਇਸ ਤੋਂ ਬਾਅਦ ਦੇਸ਼ ‘ਚ ਮਹਾਰਾਸ਼ਟਰ ‘ਚ ਅਗਲੇ 24 ਘੰਟਿਆਂ ‘ਚ ਪਾਜ਼ੇਟਿਵ ਮਰੀਜ਼ਾਂ ਦੀ ਗਿਣਤੀ 3, 4