spam-detection-bert-v2

Indonesian Spam Detection BERT

Model BERT untuk deteksi spam dalam bahasa Indonesia dengan akurasi 99%. Model ini telah di-retrain dengan dataset yang telah diperbarui dan dilabeli ulang untuk performa yang optimal pada konten Indonesia.

Quick Start

from transformers import pipeline

# Cara termudah menggunakan model
classifier = pipeline("text-classification",
                     model="nahiar/spam-detection-bert",
                     tokenizer="nahiar/spam-detection-bert")

# Test dengan teks
texts = [
    "lacak hp hilang by no hp / imei lacak penipu/scammer/tabrak lari/terror/revengeporn sadap / hack / pulihkan akun",
    "Senin, 21 Juli 2025, Samapta Polsek Ngaglik melaksanakan patroli stasioner balong jalan palagan donoharjo",
    "Mari berkontribusi terhadap gerakan rakyat dengan membeli baju ini seharga Rp 160.000. Hubungi kami melalui WA 08977472296"
]

results = classifier(texts)
for text, result in zip(texts, results):
    print(f"Text: {text}")
    print(f"Result: {result['label']} (confidence: {result['score']:.4f})")
    print("---")

Model Details

• Base Model: nahiar/spam-detection-bert-v1 (fine-tuned from cahya/bert-base-indonesian-1.5G)
• Task: Binary Text Classification (Spam vs Ham)
• Language: Indonesian (Bahasa Indonesia)
• Model Size: ~110M parameters
• Max Sequence Length: 512 tokens
• Training Epochs: 3
• Batch Size: 16
• Learning Rate: 2e-5

Performance

Confusion Matrix

• True HAM correctly predicted: 430/430 (100%)
• True SPAM correctly predicted: 25/30 (83%)
• False Positives (HAM predicted as SPAM): 0
• False Negatives (SPAM predicted as HAM): 5

Dataset

Model v2 ini dilatih ulang menggunakan dataset yang telah diperbarui dan dilabeli ulang secara manual:

• Dataset: spam_re_labelled_vNew.csv
• Total Samples: 460 pesan
• Distribution: 430 HAM, 30 SPAM
• Encoding: Latin-1
• Quality: Manual re-labeling untuk akurasi yang lebih tinggi

Updated: Januari 2025

Key Features

✅ Re-trained dengan dataset yang telah dilabeli ulang secara manual ✅ High accuracy (99%) pada deteksi spam dengan konteks Indonesia ✅ Better handling untuk pesan dengan format yang kompleks ✅ Enhanced performance pada teks dengan campuran formal dan informal ✅ Optimized untuk konten media sosial Indonesia

Label Mapping

0: "HAM" (tidak spam)
1: "SPAM" (spam)

Training Process

Model ini di-retrain menggunakan:

• Optimizer: AdamW
• Learning Rate: 2e-5
• Epochs: 3
• Batch Size: 16
• Max Length: 128 tokens
• Train/Validation Split: 80/20

Usage Example

import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification

# Load model dan tokenizer
tokenizer = AutoTokenizer.from_pretrained("nahiar/spam-detection-bert")
model = AutoModelForSequenceClassification.from_pretrained("nahiar/spam-detection-bert")

def predict_spam(text):
    inputs = tokenizer(text, return_tensors="pt", padding=True, truncation=True)
    outputs = model(**inputs)
    probs = torch.softmax(outputs.logits, dim=1)
    predicted_label = torch.argmax(probs, dim=1).item()
    confidence = probs[0][predicted_label].item()
    label_map = {0: "HAM", 1: "SPAM"}
    return label_map[predicted_label], confidence

# Test
text = "Dapatkan uang dengan mudah! Klik link ini sekarang!"
result, confidence = predict_spam(text)
print(f"Prediksi: {result} (Confidence: {confidence:.4f})")

Citation

@misc{nahiar_spam_detection_bert,
  title={Indonesian Spam Detection BERT},
  author={Raihan Hidayatullah Djunaedi},
  year={2025},
  url={https://huggingface.co/nahiar/spam-detection-bert}
}

Changelog

Current Version (January 2025)

• Re-trained model dengan dataset yang telah dilabeli ulang secara manual
• Enhanced handling untuk konten Indonesia yang kompleks
• Better performance pada deteksi spam dengan konteks lokal Indonesia
• Optimized untuk konten media sosial (Twitter, Instagram, dll)
• Improved accuracy dengan distribusi dataset yang lebih balanced