egide-toxicity-model

Egide Toxicity Model

Modele de detection de toxicite multilingue (francais/anglais) concu pour la moderation de chat Twitch.

Description

Ce modele a ete entraine pour la classification multi-label de contenu toxique. Il a ete concu specifiquement pour le projet Egide, un bot de moderation Twitch alimente par l'IA.

Le modele detecte 6 categories de toxicite sans aucune regle codee en dur : tout repose sur l'inference IA.

Categories

Performance

Evalue sur un jeu de test de 243 exemples (15% du dataset) :

Points forts

• Multilingue : Comprend le francais et l'anglais nativement
• Texte obfusque : Detecte les insultes deguisees comme "ntm", "n t m", "fdp", "f.d.p", "c0nn4rd", "k y s", etc.
• Contexte gaming : Ne flag PAS les expressions figuratives courantes en gaming ("ca tue ce jeu", "je suis mort de rire", "this game is killing me")
• Argot Twitch : Entraine sur du vocabulaire de chat Twitch (emotes, abreviations, slang)
• Zero faux pattern : Aucune regex, aucune liste de mots interdits, 100% IA

Utilisation

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model_name = "Loule/egide-toxicity-model"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
model.eval()

LABELS = ["toxicity", "insult", "hate", "sexual", "threat", "identity_attack"]

def predict(text):
    inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=128)
    with torch.no_grad():
        logits = model(**inputs).logits
    probs = torch.sigmoid(logits).squeeze().tolist()
    return {label: round(prob, 4) for label, prob in zip(LABELS, probs)}

# Exemples
print(predict("Tu es un connard"))
# -> toxicity: 0.98, insult: 0.95, ...

print(predict("ntm fdp"))
# -> toxicity: 0.97, insult: 0.93, ...

print(predict("GG bien joue le stream !"))
# -> toxicity: 0.01, insult: 0.01, ... (PAS toxique)

print(predict("Ca tue ce jeu"))
# -> toxicity: 0.03, insult: 0.02, ... (PAS flag comme toxique)

Utilisation avec FastAPI (Egide AI Service)

cd apps/ai-service
pip install -r requirements.txt
python main.py  # Lance le service sur le port 8000

curl -X POST http://localhost:8000/analyze \
  -H "Content-Type: application/json" \
  -d '{"text": "ntm sale race"}'

Entrainement

• Type : Multi-label classification
• Loss : BCEWithLogitsLoss
• Epochs : 10 (best model a l'epoch 7)
• Batch size : 8
• Learning rate : 2e-5
• Warmup : 10%
• Dataset : 539 exemples curates x3 augmentation = 1617 exemples
  • Insultes francaises (standard + obfusquees)
  • Discours de haine (racisme, xenophobie, antisemitisme)
  • Sexisme
  • Homophobie / transphobie
  • Menaces (standard + obfusquees)
  • Insultes anglaises (standard + obfusquees)
  • ~150 exemples non-toxiques (chat Twitch, expressions figuratives, emotes)

Architecture du projet Egide

Twitch Chat -> Node.js Bot (tmi.js) -> HTTP -> Python AI Service (FastAPI) -> Moderation

Le bot Node.js envoie les messages au service Python via HTTP. Le service charge ce modele et retourne les scores de toxicite. Aucun pattern n'est code en dur.

Limitations

• Entraine principalement sur du francais et de l'anglais. D'autres langues peuvent fonctionner mais avec moins de precision.
• Le dataset d'entrainement est relativement petit (539 exemples uniques). Des ameliorations sont possibles en ajoutant plus de donnees.
• Les nouvelles formes d'obfuscation non vues a l'entrainement peuvent echapper a la detection.

Licence

Apache 2.0

Citation

@misc{egide-toxicity-model,
  author = {Loule},
  title = {Egide Toxicity Model - Multilingual Toxicity Detection for Twitch Chat},
  year = {2025},
  publisher = {HuggingFace},
  url = {https://huggingface.co/Loule/egide-toxicity-model}
}