moeinGTS-1.5-8b

<div align="center">

🚀 moeinGTS-1.5-8b

</div>

---

🌟 Introduction / معرفی مدل

moeinGTS-1.5-8b is a state-of-the-art 8-billion parameter causal language model developed and fine-tuned by moeinGTS (Software & AI Research Group). This model is meticulously optimized to understand, process, and generate fluent text in both Persian (فارسی) and English.

مدل moeinGTS-1.5-8b یک مدل زبانی بزرگ، پیشرفته و قدرتمند با ۸ میلیارد پارامتر است که توسط گروه نرم‌افزاری و هوش مصنوعی معین جی‌تی‌اس (moeinGTS) توسعه یافته و بهینه‌سازی شده است. این مدل با هدف درک عمیق، پردازش دقیق و تولید متن روان به زبان‌های فارسی و انگلیسی مهندسی شده است.

---

🔥 Key Features & Highlights / ویژگی‌های کلیدی و برجسته

• ⚡ Ultra-Optimized 5GB Footprint (حجم فوق‌العاده بهینه ۵ گیگابایتی): Despite being a massive 8B parameter model, through advanced 4-bit quantization (NF4), the entire model weighs only ~5 GB! This allows it to run smoothly on standard consumer GPUs (like Google Colab T4, RTX 3060/4060) without breaking a sweat.
• 🧠 8B Parameter Scale: Offers high reasoning capabilities, complex problem-solving, and deep contextual understanding compared to smaller models.
• 🇮🇷🇬🇧 Bilingual Mastery: Specially tuned for high-quality Persian linguistic structures while retaining robust English capabilities.
• 🛠️ Native BitsAndBytes Integration: Fully compatible with 4-bit loading pipelines out of the box.

---

📊 Technical Specifications / مشخصات فنی

---

🚀 Quick Start / نحوه استفاده سریع

You can load and run moeinGTS-1.5-8b easily using the transformers library and 4-bit quantization:

می‌توانید این مدل را به راحتی با استفاده از کتابخانه transformers و تنظیمات کوانتیزاسیون ۴ بیتی بارگذاری و اجرا کنید:

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

model_id = "ali-arshiya/moeinGTS-1.5-8b"

# 1. Load Tokenizer / بارگذاری توکنایزر
print("Loading tokenizer...")
tokenizer = AutoTokenizer.from_pretrained(model_id, use_fast=False)
if tokenizer.pad_token is None:
    tokenizer.pad_token = tokenizer.eos_token

# 2. Configure 4-bit Quantization (fits in ~5GB VRAM) / تنظیمات کوانتیزاسیون ۴ بیتی
quantization_config = BitsAndBytesConfig(
    load_in_4bit=True,
    bnb_4bit_compute_dtype=torch.bfloat16 if torch.cuda.is_bf16_supported() else torch.float16,
    bnb_4bit_quant_type="nf4",
    bnb_4bit_use_double_quant=True,
)

# 3. Load Model on GPU / بارگذاری مدل روی کارت گرافیک
print("Loading model...")
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    quantization_config=quantization_config,
    device_map="auto"
)

print("✅ moeinGTS-1.5-8b loaded successfully!")