Downloads · 30 days
20
18% of all-time downloads
Davidmg0815/qwen2.5-7b-spreizzaehler-v4-GGUF
qwen2.5-7b-spreizzaehler-v4-GGUF is a text generation model from Davidmg0815. Use it when you need the model to write or continue text. The card lists the license as apache-2.0.
Q80-GGUF von Davidmg0815/qwen2.5-7b-spreizzaehler-v4: experimentelles Qwen2.5-7B mit reduziertem Vokabular (106.915 Token), zählt Zeichen, Buchstaben und Wörter per „Spreiz-Technik“, ohne System-Prompt. Modelldetails,…
Downloads · 30 days
20
18% of all-time downloads
All-time downloads
111
Public
Repo size
7.8 GB
Likes
0
Public
Click a slice to open those files.
.gguf7.8 GB · 100%
From the Hugging Face model README
Q8_0-GGUF von Davidmg0815/qwen2.5-7b-spreizzaehler-v4: experimentelles Qwen2.5-7B mit reduziertem Vokabular (106.915 Token), zählt Zeichen, Buchstaben und Wörter per „Spreiz-Technik“, ohne System-Prompt. Modelldetails, Ergebnisse und Einschränkungen: siehe die Modellkarte.
Hinweise zur Konvertierung: Der Tokenizer hat wegen des zugeschnittenen Vokabulars einen unbekannten Pre-Tokenizer-Hash; tokenizer.ggml.pre wurde deshalb auf qwen2 festgelegt (Regex unverändert). Getestet mit dem llama.cpp-Build von Unsloth auf der CPU: Token-IDs stimmen mit dem HF-Tokenizer überein; das GGUF zählt drei Testaufgaben richtig und antwortet auf zwei Chatfragen ohne Zählblock. Q8_0 statt kleinerer Quantisierung, weil Zähl-Logik empfindlich ist (Q4 nicht getestet).
Beispiel: llama-server -m qwen2.5-7b-spreizzaehler-v4-Q8_0.gguf -c 8192 --temp 0 (Standard-Chat-Template ist eingebettet, kein System-Prompt nötig; max_tokens ≥ 3000 setzen).