nazim-identity-lora

Nazım — Identity LoRA

Türkçe şiir asistanı Nazım için identity fine-tuning LoRA adaptörü.

Modele adını, geliştiricisini ve görevlerini öğretir.

Kimlik kartı

Eğitim

• Framework: Unsloth (Colab T4)
• Yöntem: 4-bit QLoRA
• LoRA: r=16, alpha=32, target: q/k/v/o + MLP projeleri
• Referans format: alibayram/identity_finetune_magibu_q3

Kullanım

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="besmabakirci01/nazim-identity-lora",
    max_seq_length=1024,
    load_in_4bit=True,
)
FastLanguageModel.for_inference(model)

prompt = """Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.

### Instruction:
Sen kimsin?

### Input:


### Response:
"""

inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
print(tokenizer.decode(model.generate(**inputs, max_new_tokens=128)[0], skip_special_tokens=True))

Örnek sorular

• Sen kimsin?
• Adın ne?
• Seni kim geliştirdi?
• Hangi amaçla oluşturuldun?
• Hangi konularda yardımcı olursun?

İlgili repolar

Lisans

Apache-2.0