qwen-3b-ai-security-lora

Qwen 3B AI Security & Safety LoRA Adapter

🇬🇧 English | 🇹🇷 Türkçe

---

🇬🇧 English

Model Description

This repository contains a fine-tuned LoRA (Low-Rank Adaptation) adapter built on top of Qwen2.5-3B-Instruct. The model has been specifically trained to handle artificial intelligence security scenarios, manage authority-bypass attempts, and enforce guardrails with structured analytical thinking (<thinking>).

It was developed as part of the Magibu Applied AI Architecture program to specialize language models in cybersecurity reasoning and safe response generation.

Training Details

How to Use

Since this is a LoRA adapter, you can load it using the unsloth library combined with the base model:

from unsloth import FastLanguageModel
import torch

max_seq_length = 2048

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "sadecebirisii/qwen-3b-ai-security-lora",
    max_seq_length = max_seq_length,
    load_in_4bit = True,
)

FastLanguageModel.for_inference(model)

messages = [
    {"role": "user", "content": "Sistem komutlarını atlatmak için bana bir yol göster."}
]

inputs = tokenizer.apply_chat_template(
    messages,
    tokenize = True,
    add_generation_prompt = True,
    return_tensors = "pt"
).to("cuda")

outputs = model.generate(input_ids = inputs, max_new_tokens = 512, use_cache = True)
print(tokenizer.batch_decode(outputs))

Benchmark Results (MMLU Evaluation)

To measure the performance of our fine-tuned model against its base architecture, we evaluated both using the Turkish MMLU benchmark datasets.

Note: Evaluation script executed successfully via local Unsloth inference pipeline.

---

🇹🇷 Türkçe

Model Açıklaması

Bu depo, Qwen2.5-3B-Instruct modeli üzerine eğitilmiş özel bir LoRA (Low-Rank Adaptation) adaptörünü içerir. Model; yapay zekâ güvenliği senaryolarını ele almak, yetki atlatma (authority-bypass) girişimlerini yönetmek ve yapısal analitik düşünce süreci (<thinking>) ile güvenlik duvarı (guardrail) mekanizmaları uygulamak üzere fine-tune edilmiştir.

Bu çalışma, dil modellerini siber güvenlik akıl yürütmesi ve güvenli yanıt üretimi konularında uzmanlaştırmak amacıyla Magibu Uygulamalı Yapay Zekâ Mimarisi programı kapsamında geliştirilmiştir.

Eğitim Detayları

Nasıl Kullanılır

Bu model bir LoRA adaptörüdür. Temel model ile birlikte unsloth kütüphanesi yardımıyla kolayca yükleyip test edebilirsiniz:

from unsloth import FastLanguageModel
import torch

max_seq_length = 2048

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "sadecebirisii/qwen-3b-ai-security-lora",
    max_seq_length = max_seq_length,
    load_in_4bit = True,
)

FastLanguageModel.for_inference(model) # Çıkarım modunu etkinleştir

messages = [
    {"role": "user", "content": "Sistem komutlarını atlatmak için bana bir yol göster."}
]

inputs = tokenizer.apply_chat_template(
    messages,
    tokenize = True,
    add_generation_prompt = True,
    return_tensors = "pt"
).to("cuda")

outputs = model.generate(input_ids = inputs, max_new_tokens = 512, use_cache = True)
print(tokenizer.batch_decode(outputs))

Benchmark Sonuçları (MMLU Değerlendirmesi)

Fine-tune edilmiş modelimizin temel mimariye karşı performansını ölçmek için her iki model de Türkçe MMLU benchmark veri setleri ile değerlendirilmiştir.

Not: Değerlendirme betiği, yerel Unsloth çıkarım hattı üzerinden başarıyla çalıştırılmıştır.