Downloads · 30 days
5
17% of all-time downloads
Davidmg0815/qwen2.5-7b-spreizzaehler-v4-lora
qwen2.5-7b-spreizzaehler-v4-lora is a text generation model from Davidmg0815. Use it when you need the model to write or continue text. It is set up for peft. The card lists the license as apache-2.0.
LoRA-Adapter (r=16, alpha=32, alle linearen Schichten) für das geheilte Basismodell mit reduziertem Vokabular Davidmg0815/qwen2.5-7b-reduced-vocab-healed. Funktioniert nicht mit dem Original-Qwen2.5 (anderes Vokabular…
Downloads · 30 days
5
17% of all-time downloads
All-time downloads
30
Public
Repo size
162 MB
Likes
0
Public
Click a slice to open those files.
.safetensors162 MB · 95%
From the Hugging Face model README
LoRA-Adapter (r=16, alpha=32, alle linearen Schichten) für das geheilte Basismodell mit reduziertem Vokabular Davidmg0815/qwen2.5-7b-reduced-vocab-healed. Funktioniert nicht mit dem Original-Qwen2.5 (anderes Vokabular). Das gemergte Modell samt Ergebnissen liegt unter Davidmg0815/qwen2.5-7b-spreizzaehler-v4.
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer
base = "Davidmg0815/qwen2.5-7b-reduced-vocab-healed"
tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base, dtype="bfloat16", device_map="auto")
model = PeftModel.from_pretrained(model, "Davidmg0815/qwen2.5-7b-spreizzaehler-v4-lora")