ru-toxicity-classifier-rosberta

Бинарный классификатор токсичности русскоязычных текстов

Модель для детекции токсичных сообщений в переписке службы поддержки (учебный проект). Дообучена на базе ai-forever/ru-en-RoSBERTa: энкодер заморожен, обучалась только классификационная голова.

Классы

• 0 — нетоксичный текст
• 1 — токсичный текст (грубость, оскорбления, сарказм, пассивная агрессия)

Метрики на тестовой выборке

Пример использования

import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification

tokenizer = AutoTokenizer.from_pretrained("Izbebe/ru-toxicity-classifier-rosberta")
model = AutoModelForSequenceClassification.from_pretrained("Izbebe/ru-toxicity-classifier-rosberta")

text = "Вы что, совсем тупой? Я же уже объяснял!"
inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=128)
with torch.no_grad():
    probs = torch.softmax(model(**inputs).logits, dim=-1)
print(f"Вероятность токсичности: {probs[0, 1].item():.3f}")

Обучающие данные

Датасет: Izbebe/ru-toxicity-support-binary