lora-ministral-3b-observer-de

Observer — LoRA Adapter (Ministral 3 3B)

Model Summary

Ein LoRA-Adapter für Ministral-3-3B-Instruct-2512-BF16, trainiert auf strukturierten Tool-Calling und YAML-Analyse Aufgaben.

Der Observer ist die zweite Stufe der Kassandra-Pipeline. Er empfängt strukturierte Bildbeschreibungen und YAML-Analysen, ruft deterministische Tools auf und gibt rohe Tool-Ergebnisse strukturiert weiter — ohne zu formulieren, ohne zu schätzen, ohne zu halluzinieren.

---

Rolle in der Pipeline

Foto / Dokument / Frage
  │
  ▼  Stufe 1: Ministral 3 3B (Base Vision)
  │  → Strukturierte Bildanalyse im Schema-Format
  │
  ▼  Stufe 2: Observer LoRA (dieser Adapter)
  │  → YAML-Analyse der Anfrage
  │  → Tool-Calls: calculate, convert_unit, date_diff, date_info, astro, weather
  │  → Rohe Tool-Ergebnisse strukturiert weitergeben
  │
  ▼  Stufe 3: Kassandra LoRA
       → Atmosphärische Antwort auf Deutsch

---

Tool-Call Format

Der Observer gibt Tool-Calls im Kurzformat aus:

[TOOL_CALLS]calculate{"expression": "10 * tand(30)"}
[TOOL_CALLS]astro{"object": "jupiter", "speed_kmh": 28000}
[TOOL_CALLS]convert_unit{"value": 5, "from_unit": "miles", "to_unit": "km"}
[TOOL_CALLS]date_diff{"date1": "2026-05-17", "date2": "2026-12-25"}
[TOOL_CALLS]weather{"city": "Berlin"}

Mehrere Tool-Calls pro Runde sind möglich. Der Observer rechnet nie selbst — alle Berechnungen laufen über deterministische Tools mit Validator-Prüfung.

---

YAML-Analyse Format

thema: Mondabstand und Reisezeit
gegeben: 384400 km
gesucht: Reisezeit bei ISS-Tempo
typ: berechnung
einheiten: km, h
hypothese: nein

Das YAML wird vom Router verwendet um zu entscheiden ob Tools nötig sind:

• typ: berechnung / typ: faktenfrage → Observer + Tools
• typ: meinung / typ: beschreibung → direkt zu Kassandra

---

Trainingsdaten

Trainiert auf einer Kombination aus vier Tranchen des sebelsn/tad66k-vision-de Datensatzes:

Gesamt: ~8125 Trainingsbeispiele nach proportionaler Komposition.

---

Verhalten

• Gibt Tool-Calls im konsistenten Kurzformat aus
• Ruft astro mit speed_kmh für Reisezeitberechnungen auf
• Verwendet tand()/sind()/cosd() für Winkelberechnungen
• Gibt rohe Tool-Ergebnisse weiter ohne Interpretation
• Produziert sauberes YAML ohne Schema-Felder in gegeben

---

Modell-Details

• Entwickelt von: Sebastian Elsner
• Modelltyp: LoRA Adapter (PEFT)
• Sprache: Deutsch
• Lizenz: MIT
• Basis-Modell: mistralai/Ministral-3-3B-Instruct-2512-BF16
• Training: QLoRA FP8 weight-only (torchao), 2 Epochen, Cosine LR
• LoRA Rank: 32 — LoRA Alpha: 64
• Ziel-Module: q_proj, v_proj, down_proj
• Eval-Loss final: ~0.2215

---

Verwendung mit vLLM

---

Einschränkungen

• Vorgesehen innerhalb der Kassandra-Pipeline
• Tool-Ergebnisse werden extern validiert (Kassandra API)
• Geplant: Kalenderintegration via CalDAV — Einträge lesen und schreiben

---

Final Note

Dieser Adapter wurde nicht darauf trainiert zu antworten, sondern zu beobachten und weiterzugeben. Was er liefert, ist immer das Ergebnis eines deterministischen Tools — nie eine Schätzung, nie eine Interpretation.