pii-guard-turkish-0.8b-lora

PII Guard Turkish 0.8B (LoRA adaptörü)

Türkçe talimat-koşullu PII maskeleme modelinin LoRA adaptörü. Kullanım için merge edilmiş tam model önerilir: pii-guard-turkish-0.8b.

Uyarı: Qwen3.5'in hibrit (linear attention) mimarisi nedeniyle bu adaptör vanilla PEFT ile doğru yüklenmez (modül adları eşleşmez, ağırlıklar sessizce atlanır). Adaptörü yalnızca Unsloth FastLanguageModel.from_pretrained ile yükleyin ya da merged repoyu kullanın.

Girdi : Ahmet Yıldız 0542 321 45 67 numarasından aradı, ibanı TR12 0001 2000 0034 5678 9012 34
Çıktı : [AD] [TEL] numarasından aradı, ibanı [IBAN]

Bir LLM'e veri göndermeden önceki maskeleme katmanı, log temizleme ve KVKK/GDPR veri minimizasyonu için tasarlandı. 53 PII etiketi tanır ve talimat okur: aynı metin, farklı politika altında farklı maskelenir.

Sonuçlar

Eğitim verisinden tamamen bağımsız, elle kurulmuş 1.000 örneklik benchmark üzerinde satır düzeyi tam eşleşme (çıktının beklenen metinle karakter karakter aynı olması — tek bir etiket hatası satırın tamamını yanlış sayar):

Şema-nötr sütun, [YAS] [CINSIYET] [UYRUK] etiketlerinin maskelenmesini gerektiren 97 satır hariç tutularak hesaplanır (bu üç etiket her modelin şemasında bulunmadığından modeller arası adil kıyas bu sütundur). Benchmark halka açıktır ve yeniden üretilebilir:

• Kaggle: https://www.kaggle.com/datasets/aiwithcagri/turkish-pii-masking-benchmark
• Hugging Face: https://huggingface.co/datasets/cagrigungor/turkish-pii-masking-benchmark

Benchmark bileşimi: tam maskeleme (350), beyaz liste (200), kara liste (150), kapsam dışı (100), tuzaklı negatif (200); içinde BÜYÜK HARF, Türkçe ek almış PII, sözle yazılmış numaralar, çok kişili metinler ve 300-900 karakterlik uzun girdiler işaretli dilimler halinde bulunur.

Kategori kırılımı (bu model): tam maskeleme 0.823 · beyaz liste 0.930 · kara liste 0.700 · kapsam dışı 0.970 · negatif 1.000. Zor dilimler: ekli PII 0.879 · BÜYÜK HARF 0.811 · uzun metin 0.792 · sözle yazım 0.730.

Eğitim

Kullanım

Prompt biçimi eğitimle birebir aynı olmalıdır: talimat ve metin tek user turnundadır, metin Metin: önekiyle verilir.

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

MODEL = "cagrigungor/pii-guard-turkish-0.8b"
tokenizer = AutoTokenizer.from_pretrained(MODEL)
model = AutoModelForCausalLM.from_pretrained(
    MODEL, dtype=torch.bfloat16, device_map="auto").eval()

def maskele(metin, talimat="Metindeki tüm kişisel verileri uygun etiketlerle maskele."):
    prompt = (f"<|im_start|>user\n{talimat}\n\nMetin: {metin}<|im_end|>\n"
              f"<|im_start|>assistant\n")
    girdi = tokenizer(prompt, return_tensors="pt", add_special_tokens=False).to(model.device)
    with torch.inference_mode():
        cikti = model.generate(**girdi, max_new_tokens=512, do_sample=False,
                               eos_token_id=tokenizer.convert_tokens_to_ids("<|im_end|>"),
                               pad_token_id=tokenizer.eos_token_id)
    return tokenizer.decode(cikti[0, girdi["input_ids"].shape[1]:],
                            skip_special_tokens=True).strip()

print(maskele("müşteri Ayşe Yılmaz tc 12345678901 tel 0532 111 22 33"))
# -> müşteri [AD] tc [TCKN] tel [TEL]

do_sample=False kullan; maskeleme belirlenimci bir görevdir.

Politika biçimleri

Model talimatı okur; aynı metin farklı politika altında farklı maskelenir.

Etiketler

53 etiket, dokuz kategoride.

Türkçeye özgü davranış

• Ek almış PII: kesme işaretli ekler ünlü uyumuyla korunur — Ayşe Yılmaz'ın hesabına havale yap -> [AD]'ın hesabına havale yap
• Sözle yazılmış değerler: tc kimlik numaram yedi bir dokuz yedi ... -> tc kimlik numaram [TCKN]
• BÜYÜK HARF girdi: ADIM AHMET TC 12345678901 -> ADIM [AD] TC [TCKN]
• Çok kişili metin: aynı cümledeki farklı kişiler ayrı ayrı maskelenir
• Tuzaklara direnç: fatura/sipariş numarası, şehir adlı projeler, "tc kimlik alanı boş bırakılamaz" gibi PII kelimesi geçen ama PII içermeyen metinler değiştirilmez

Sınırlar

1. Değerlendirme sentetik veriyle yapılmıştır. Eğitim ve benchmark verisi Faker + LLM üretimidir; gerçek kişi verisi içermez. Gerçek kullanıcı metnindeki performans ölçülmemiştir. Kendi verinde ölçmeden kritik bir hatta koyma.
2. Şema dışı etiket üretebilir. Üretimde 53 etiketlik bir whitelist katmanı öneririz; şema dışı etiket içeren çıktıyı reddedip insan incelemesine gönder.
3. Zayıf dilimler (benchmark kırılımından): kara liste talimatları ve sözle yazılmış uzun sayı dizileri en düşük skorlu dilimlerdir. Bu dilimlerde çıktı doğrulaması ekle.
4. Yalnızca Türkçe. Başka dillerde test edilmedi.
5. Karar destek aracı değildir. KVKK/GDPR sorumluluğu kullanandadır; kritik akışlarda insan denetimi gerekir.

Yazar

Hasan Çağrı Güngör [email protected] — https://finiscode.com

Alıntı

@misc{pii-guard-turkish,
  title  = {PII Guard Turkish},
  author = {Hasan Çağrı Güngör},
  year   = {2026},
  url    = {https://huggingface.co/cagrigungor/pii-guard-turkish-0.8b-lora}
}