russian-support-toxicity-rosberta

Russian Support Toxicity Classifier

Бинарный классификатор токсичности русскоязычных сообщений технической поддержки.

Классы

• NON_TOXIC (0) — нейтральный или вежливый текст;
• TOXIC (1) — грубый, агрессивный или токсичный текст.

Базовая модель

cointegrated/rubert-tiny2

Во время обучения энкодер был заморожен, обучалась классификационная голова.

Метрики на тестовой выборке

Использование

from transformers import pipeline

classifier = pipeline(
    "text-classification",
    model="Musyysysy/russian-support-toxicity-rosberta",
)

result = classifier("Спасибо, сейчас проверим вашу заявку.")
print(result)

Ограничения

Модель предназначена для русскоязычных сообщений и может ошибаться на иронии, скрытом сарказме, жаргоне, новых оскорблениях и текстах из доменов, отличающихся от обучающего набора. Решения с высоким риском следует подтверждать человеком.