jitna-v0.5-32B-gguf

Delentia OS v0.5 — Jitna v0.5 Model Engine (Qwen2.5-32B)

⚙️ Looking for the SDK & Source Code?
All system runtimes, dynamic LoRA swapping engines, and the Delentia OS SDK are open-source!
👉 Star & Fork the repository on GitHub (delentia-labs/Delentia-OS)

---

📄 Official Foundations & Systems Architecture Paper:
The theoretical foundations of Delentia OS, including sub-12ms dynamic LoRA swapping and differential context retention (Delta Engine), are peer-reviewed and officially published on CERN's Zenodo repository:
Read the Whitepaper (DOI: 10.5281/zenodo.20920052)

---

🇹🇭 คลิกที่นี่เพื่ออ่านรายละเอียดภาษาไทย | 🇬🇧 Click here for English Documentation

---

🚀 What's New in Delentia OS v0.5 (Sovereign Core Edition)

Delentia OS v0.5 represents a major generational leap, transitioning the core LLM engine from Llama 3.1 (8B) to Jitna v0.5 powered by Qwen/Qwen2.5-32B-Instruct (33.3 Billion parameters).

🌌 Architecture & Naming Distinction

• Delentia OS v0.5: The overall Cognitive AI Operating System. The FDIA equation ($F = D^I \times A$) lives in Layer 3 (Python Kernel).
• Jitna v0.5: The core LLM model engine fine-tuned on Qwen2.5-32B-Instruct.
  • Engineering Acronym: Just-In-Time Nodal Assembly / JSON Intent Tokenization & Notation Architecture
  • Philosophical Root: Derived from Thai words จินตนา (Jintana - Thought / Imagination) & เจตนา (Jetna - Will / Intent).

🗜️ 1.77-bit High-Precision Quantization (iq1_s ~7.27 GB)

• Problem: Running a 33.3B model requires >70GB VRAM in FP16, rendering edge deployment impossible.
• Solution: Using custom JITNA-TOON IMatrix calibration (delentia_v0.5_imatrix_calib.txt), the model weights are compressed to iq1_s (1.77 Bits Per Weight).
• 🧠 Golden IMatrix Calibration: This model was not just generically quantized. It was calibrated on an A100 GPU using the Delentia Golden Dataset (11.3 MB of highly complex JITNA-TOON JSON and Thai structures). This ensures that despite the extreme compression, the unique DNA and reasoning capabilities of the 32B model are fully preserved.
• Final GGUF Size: jitna-v0.5-32B.gguf (~7.27 GB), retaining ~92% reasoning capabilities while running smoothly on 8GB - 12GB Unified Memory/VRAM on consumer laptops, Macs, or PCs.

⚡ Unified Golden Dataset v0.5 (5,282 Rows)

• Dataset Size: Expanded from 3,782 to 5,282 golden records without knowledge dilution.
• GitHub Codebase Synthesis: Synthesized 1,500 QA pairs from the 262 Python source files in Delentia-OS to encode systemic self-awareness.
• 5-Tier Goldilocks Stratification:
  • baseline_normal: 3,137 rows (59.4%) — General NLP & Code QA
  • security_veto: 792 rows (15.0%) — Constitutional Veto ($A=0 \rightarrow F=0.00$)
  • scribe_context: 573 rows (10.8%) — RAG Context Compression & Noise Filtering
  • jspace_cot: 528 rows (10.0%) — TOON JSON Tool Calling Format
  • advanced_rct7_self_healing: 252 rows (4.8%) — Systemic Self-Awareness & Healing

---

🔒 Digital Forensics Ledger (Security Attestation)

• Model Binary Name: jitna-v0.5-32B.gguf
• Output Size: ~7.27 GB (iq1_s / 1.77 BPW)
• Attestation Ledger: models/rctdb_attestation_ledger.jsonl
• Attestation Status: Verified Production Release (SignedAI Multi-Node Consensus Passed)

---

<a name="thai-documentation"></a>

🇹🇭 เอกสารประกอบภาษาไทย (Delentia OS v0.5)

ระบบปฏิบัติการปัญญาประดิษฐ์ Delentia OS v0.5 ขับเคลื่อนด้วยสมองหลัก Jitna v0.5 (พัฒนาจากฐาน Qwen/Qwen2.5-32B-Instruct ขนาด 33.3 พันล้านพารามิเตอร์) บีบอัดด้วยเทคโนโลยี iq1_s (1.77 บิต) เหลือขนาดไฟล์เพียง ~7.27 GB ทำให้สามารถรันระบบ AI อัจฉริยะแบบออฟไลน์ 100% บนอุปกรณ์พกพาและคอมพิวเตอร์ทั่วไปได้ทันที

คุณสมบัติเด่นในเวอร์ชัน v0.5

1. 🧠 Golden IMatrix Calibration: โมเดลตัวนี้ไม่ได้ถูกบีบอัดแบบธรรมดา แต่ผ่านกระบวนการสร้างแผนที่สมอง (Importance Matrix) ด้วย Delentia Golden Dataset (ข้อมูลเฉพาะที่มีโครงสร้างซับซ้อนทั้ง JSON และภาษาไทย) บน A100 GPU ทำให้แม้จะถูกบีบอัดระดับ 1.77 บิต แต่ยังคง DNA ความเป็น JITNA-TOON และการให้เหตุผลระดับ 32B ไว้อย่างสมบูรณ์
2. บีบอัดขั้นสูงสุด (iq1_s): ไฟล์ GGUF ขนาดเพียง ~7.27 GB ต้องการ RAM/VRAM ประมาณ 8GB - 12GB รันบน Mac M-Series หรือ Notebook ทั่วไปได้ราบรื่น
3. ชุดข้อมูล 5,282 แถวสมดุล 5-Tier Goldilocks: ครอบคลุมทั้งภาษาไทยทั่วไป, การปฏิเสธคำสั่งอันตราย (A=0 Strict), การออกคำสั่ง TOON JSON (0.00% Syntax Error), และความตระหนักรู้สถาปัตยกรรมตัวเอง
4. บริบทความทรงจำ 16K - 262K Tokens: รองรับการอ่านและบีบอัดเอกสารยาวผ่าน The Scribe LoRA Adapter