turkish-content-moderation

Turkish Content Moderation Model (Türkçe İçerik Moderasyonu)

XLM-RoBERTa-large tabanlı, Türkçe metinleri 7 kategoride sınıflandıran bir içerik moderasyon modelidir.

Kategoriler

Performans

Dataset

Bu model, kendi oluşturulan Türkçe içerik moderasyon veri seti ile fine-tune edilmiştir.

Kullanım

import torch
from transformers import AutoModelForSequenceClassification, AutoTokenizer

model_name = "cibi11/turkish-content-moderation"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
model.eval()

text = "Seninle konuşmak istemiyorum"
inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=128)

with torch.no_grad():
    logits = model(**inputs).logits
    probs = torch.softmax(logits, dim=-1)[0]

kategoriler = ["normal", "kufur", "tehdit", "taciz", "nefret", "saka/igneleme", "cinsel"]
for label, prob in zip(kategoriler, probs):
    print(f"{label}: %{prob.item() * 100:.1f}")

print(f"Sonuç: {kategoriler[probs.argmax()]}")

Limitations

Bu model hatalı pozitif ve hatalı negatif sonuçlar üretebilir ve tek başına moderasyon kararları için yeterli değildir. Kullanım öncesinde insan denetimi önerilir.

License

MIT

Base Model

This model is fine-tuned from xlm-roberta-large, which is released under the MIT License.