qwen2.5-14b-flydeviation-lora

Qwen2.5-14B FlyDeviation LoRA

LoRA adapter for Qwen/Qwen2.5-14B-Instruct, fine-tuned to predict commercial flight block-time deviations and produce a short Turkish analysis with structured JSON output.

---

Türkçe

Bu nedir?

FlyDeviation Lab projesi için eğitilmiş bir LoRA adapter'dır. Qwen2.5-14B-Instruct üzerine QLoRA (NF4 + BF16) ile, EuroControl,ADS-B,FR24 verileri üzerinden elde edilmiş 17 milyon uçuş verisi kullanılarak inşa edilmiş 50.000 örneklik dengeli bir korpus ile fine-tune edildi.

Verilen bir uçuş için:

• Tahmini blok süresi (dakika)
• Rota tarihsel medyanına göre sapma (dakika)
• Sapmanın birincil etmeni (weather · traffic · airline_ops · nominal · notam)
• Türkçe kısa analiz prosesi
• Yapısal JSON çıktı

üretir.

Beklenen kullanım

Bu adapter tek başına çalışmaz — Qwen/Qwen2.5-14B-Instruct base model'i ile birlikte yüklenmelidir.

Hızlı kullanım

import torch
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

ADAPTER = "AliUlu/qwen2.5-14b-flydeviation-lora"
BASE = "Qwen/Qwen2.5-14B-Instruct"

# --- (A) ≥30 GB VRAM: BF16 tam yükleme ---
# base = AutoModelForCausalLM.from_pretrained(
#     BASE, device_map="auto", torch_dtype=torch.bfloat16,
# )

# --- (B) ~10-14 GB VRAM: 4-bit ---
bnb = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_compute_dtype=torch.bfloat16,
    bnb_4bit_use_double_quant=True,
)
base = AutoModelForCausalLM.from_pretrained(
    BASE, quantization_config=bnb, device_map="auto", torch_dtype=torch.bfloat16,
)

tok = AutoTokenizer.from_pretrained(ADAPTER, use_fast=True)
model = PeftModel.from_pretrained(base, ADAPTER).eval()

# Model, eğitim sırasında bu Türkçe formatla beslendi — drift'i önlemek için
# çıkarımda da aynı formatı kullanılmalı. Live (anlık) bölümü opsiyoneldir;
system = (
    "Sen bir uçuş operasyonu analistisin. Verilen rota, uçak tipi, tarih ve "
    "operasyonel bağlam bilgilerine göre bu uçuşun tarihsel medyana göre "
    "blok-süre sapmasını (deviation_min) tahmin edersin. Eğer prompt'ta "
    "'Anlık koşullar' bölümü varsa, METAR'daki rüzgar/yağış, anlık hava "
    "trafiği ve aktif NOTAM'larda yer alan kapalı pist/taxiway/yardım "
    "kısıtlamalarını analizine ve drivers listesine mutlaka yansıt. Cevabın "
    "iki kısımdan oluşur: (1) Türkçe kısa bir analiz paragrafı, (2) JSON "
    "bloğu. JSON tam olarak şu anahtarları içermelidir: predicted_min, "
    "baseline_min, deviation_min, confidence, drivers (string listesi). "
    "Tahminler dakika cinsindendir."
)

user = """Uçuş bilgileri:
- Rota: Madrid (LEMD) → İstanbul (LTFM)
- Tarih: 2026-05-13 (Çarşamba)
- Mevsim: spring
- Kalkış saati: 11:00 (morning)
- Uçak tipi: A321 (sınıf narrow_body)
- Great-circle mesafe: 2701 km, başlangıç yönü 73° (doğu)
- A321 tipik cruise hızı: 833 km/h; bu mesafe için teorik minimum blok süre ≈ 219 dk

Rota tarihçesi (aynı uçak tipi için):
- Örneklem: 112 uçuş
- Medyan blok süre: 210 dk (p10 190 – p90 208, std 6.4)

Operasyonel bağlam:
- Kalkış havalimanında aynı saat dilimindeki kalkış sayısı: 18
- Varış havalimanında aynı saat dilimindeki iniş sayısı: 47
- O gün kalkış havalimanı toplam kalkış: 412, varış havalimanı toplam iniş: 1180

Hava (uçuş zamanı):
- LEMD (kalkış): rüzgar 240°/14kt, sıcaklık 12°C, QNH 1013
- LTFM (iniş): rüzgar 040°/10kt, sıcaklık 19°C, QNH 1016

Anlık koşullar (gerçek zamanlı):
- LEMD METAR: 24014KT 7000 -RA FEW045CB BKN050 12/08 Q1013 RERA NOSIG
- LTFM METAR: 04010KT 9999 SCT030 BKN090 19/12 Q1016 NOSIG RMK RWY17L 03008KT
- LEMD 50km içinde anlık 18 uçak havada
- LTFM 50km içinde anlık 2 uçak havada
- Aktif NOTAM'lar (rota üstü):
  - LEMD A3282/26: RAPID EXIT TWY Z10 INDICATOR LIGHTS (RETIL) U/S
  - LEMD E2352/26: DME BRA CH111Y ON RDL349 DISTANCE MEASUREMENT NOT RELIABLE BTN 6.8NM AND 4NM
  - LEMD A3151/26: REF AIRAC SUP 133/25 PHASE 4 ACT

Görev: Bu uçuşun tarihsel medyana göre blok-süre sapmasını (dakika) tahmin et."""

msgs = [{"role": "system", "content": system}, {"role": "user", "content": user}]
prompt = tok.apply_chat_template(msgs, tokenize=False, add_generation_prompt=True)
inp = tok(prompt, return_tensors="pt").to(model.device)

with torch.inference_mode():
    out = model.generate(**inp, max_new_tokens=512, do_sample=False,
                         pad_token_id=tok.eos_token_id)
print(tok.decode(out[0, inp.input_ids.shape[1]:], skip_special_tokens=True))

⚠️ Train/serve format uyumu önemli. Eğitim prompt'ları yukarıdaki Türkçe yapıyı kullanıyor. Farklı bir şablonla (örn. İngilizce key-value) sorarsan model performansı düşer.

Eğitim verisi

• Kaynak: EuroControl R&D Data Archive (~17M uçuş) + Adsb + FR24 türevi sapma etiketleri
• Zenginleştirme:
  • Open-Meteo Historical (ERA5) yüzey hava verisi her havalimanı/saat için
  • TR + AB tatil takvimi 2025–2026
  • Uçak fizik özellikleri (cruise hızı, menzil, gövde sınıfı)
• Boyut: 50.000 dengeli örnek (rota × etmen × ay), 2.500 validation

Eğitim Sonuçları

Train loss (final): ~0.072 → train ≈ eval, overfit gözlenmedi.

Sınırlamalar

• Çıktı yalnızca Türkçe'dir (sistem prompt'u Türkçe olduğunda).
• Tahminler havayolu operasyonel kararı için değil, yol planlama / araştırma içindir.
• Korpus 2025–2026 EuroControl, ADS-B uçuşları üzerine kurulu; daha eski / farklı havalimanı yoğunluğunda performans değişebilir.
• Cruise winds (FL-300+) korpusta yok, model "tailwind / headwind" yorumlarını yüzey rüzgârına ve fiziksel sezgiye dayanarak yapıyor.
• Halüsinasyon ihtimali her LLM'de olduğu gibi mevcut — JSON çıktısı her zaman parse edilebilir olmayabilir, çağıran tarafın doğrulaması önerilir.

Lisans

MIT. Base model Qwen/Qwen2.5-14B-Instruct Apache-2.0 ile dağıtılmaktadır; bu adapter'ı kullanırken her iki lisansa da uyulmalıdır.

---

English

What is this?

A LoRA adapter trained for the FlyDeviation Lab project. Fine-tuned on top of Qwen2.5-14B-Instruct using QLoRA (NF4 + BF16) on a 50,000-example balanced corpus distilled from 17 million flights collected via EuroControl, ADS-B, and FR24.

For a given flight, the adapter produces:

• Predicted block-time (minutes)
• Deviation vs. route historical median (minutes)
• Primary factor (weather · traffic · airline_ops · nominal · notam)
• A short Turkish analysis paragraph
• A structured JSON payload

Intended use

This adapter does not stand alone — it must be loaded together with the Qwen/Qwen2.5-14B-Instruct base model.

Quick start

See the Python snippet in the Turkish section above — same code, same prompt structure. The model was trained on Turkish-formatted prompts matching the structure shown there. Using a different schema (e.g. English key-value) will degrade quality due to train/serve drift.

Training data

• Source: EuroControl R&D Data Archive (~17M flights) + ADS-B + FR24-derived deviation labels
• Enrichment:
  • Open-Meteo Historical (ERA5) surface weather per airport/hour
  • TR + EU holiday calendar (2025–2026)
  • Aircraft physics features (cruise speed, range, body class)
• Size: 50,000 balanced examples (route × factor × month), 2,500 validation

Training Results

Train ≈ eval throughout — no overfitting observed.

Limitations

• Output is Turkish only (system prompt is Turkish).
• Predictions are for routing/research, not for operational airline decisions.
• Corpus is built on 2025–2026 EuroControl + ADS-B flights; performance may vary for older periods or different airport densities.
• Upper-air winds (FL-300+) are not in the corpus; the model reasons about tailwind/headwind from surface wind + physics priors.
• As with any LLM, hallucinations are possible. JSON output is not guaranteed to be parseable on every call — caller-side validation recommended.

License

MIT. The base model Qwen/Qwen2.5-14B-Instruct is distributed under Apache-2.0; both licenses must be respected when using this adapter.