Jinis-vl-2b-ko-gguf

🧠 Jinis-vl-2b-ko

한국어 특화 멀티모달 + Thinking 기반 모델 (Qwen3-VL-2B + RealQA Evol LoRA)

Jinis-vl-2b-ko는 Qwen3-VL-2B-Thinking 모델에
Hellohihihih/qwen3vl-2b-realqa-evol-lora 를 **병합(Merge)**하여 제작된
한국어 강화 멀티모달 모델입니다.

이미지 입력 + 텍스트 입력이 모두 가능하며,
Thinking 모드 기반의 자연스러운 단계적 추론을 지원합니다.

---

✨ 특징 (Highlights)

• 🖼 멀티모달 지원
  이미지 + 텍스트 동시 입력 가능

• 🧩 Thinking 기반 추론 강화
  Qwen3-VL-2B-Thinking 아키텍처 기반

• 🇰🇷 한국어 성능 강화
  RealQA Evol LoRA를 병합하여
  한국어 질의응답/상식/대화 성능 향상

• 🔍 현실 기반 질의응답(RealQA) 성능 향상

• ⚡ GGUF 제공

  • F16
  • Q4_K_M
  • Vision mmproj 포함
    → llama.cpp / LM Studio / OpenWebUI 완전 지원

---

📦 구성 (Merged Sources)

---

🎯 사용 목적

• 한국어 이미지 설명 (VQA)
• 한국어 기반 종합 질의응답
• 한국어 문장 생성 / 요약 / 글쓰기
• 사진/스크린샷 기반 분석
• 단계적 사고 기반 추론(Thinking)

---

🚀 Transformers 사용 예시

from transformers import AutoModelForCausalLM, AutoProcessor
import torch

model_id = "YOUR_ID/Jinis-vl-2b-ko"

model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    device_map="auto"
)

processor = AutoProcessor.from_pretrained(model_id)

inputs = processor(text="한국어로 자연스럽게 답변해줘.", return_tensors="pt").to("cuda")

out = model.generate(**inputs, max_new_tokens=200)
print(processor.decode(out[0], skip_special_tokens=True))