Sber_Qwen3-VL-4B-Instruct-action-GGUF

TirGun: SberRobotics Qwen3-VL-4B-Instruct-action (GGUF)

English Version | Русская версия

---

English Version

Optimized weights for the Qwen3-VL-4B-Instruct-action model by the SberRoboticsCenter team. This build is prepared for efficient local execution (CPU Xeon, 8GB VRAM GPU) via llama.cpp and Ollama.

Technical Information:

• Conversion Tool: llama.cpp build 8373 (commit 46dba9fce).

📝 About the Model

Qwen3-VL-4B-Instruct-action is a specialized Vision-Language-Action (VLA) model. Unlike standard chat models, it is fine-tuned to understand spatial relationships and plan physical movements.

This model is a specialized Vision-Language-Action (VLA) agent developed by SberRoboticsCenter. It serves as the foundational architecture and instruction-tuned base for the Green-VLA project.

The model is fine-tuned to predict precise spatial coordinates and plan robotic actions, bridging the gap between visual understanding and physical execution.

Research Paper: Green-VLA: Staged Vision-Language-Action Model for Generalist Robots

🛠 Use Cases & Practical Applications

• 🤖 Robotics & Control: High-precision object detection for pick-and-place tasks. The model generates coordinates [ymin, xmin, ymax, xmax] for robotic manipulators.
• 🖥 UI Automation & RPA: Visual navigation of software interfaces. Ideal for testing apps or automating legacy software without APIs by "seeing" buttons and fields.
• 🏭 Industrial Vision: Quality control on assembly lines, safety monitoring (PPE detection), and obstacle analysis for AGV/AMR robots.
• 📄 Advanced OCR: Extracting data from complex layouts like blueprints, receipts, and multilingual documents where context is key.

📂 Available Weights (Experimental)

🚀 Usage Instructions

1. Via llama.cpp (CLI)

./llama-cli -m Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf \
            --mmproj mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf \
            --image "path/to/your/image.jpg" \
            -p "<|im_start|>user\n<|vision_start|><|vision_end|>Describe the objects in the photo.<|im_end|>\n<|im_start|>assistant\n" \
            -n 512 --temp 0.1

• Note: In the --image parameter, specify the path to your test image (supported formats: .jpg, .png).

2. Via Ollama

Create a Modelfile:

FROM ./Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf
ADAPTER ./mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf
PARAMETER num_ctx 16384
PARAMETER num_gpu 99

Then: ollama create sber-action -f Modelfile

---

⚠️ Testing Status (WIP)

Technical correctness of the conversion is confirmed. Functional verification of Action capabilities (coordinate prediction accuracy in GGUF) is currently in progress.

---

⚖️ License

Distributed under Apache 2.0. Used original model by the SberRoboticsCenter team.

---

Developed within the TirGun project. Local AI. Privacy. Efficiency.

---

---

Русская версия

Оптимизированные веса модели Qwen3-VL-4B-Instruct-action от команды SberRoboticsCenter. Сборка подготовлена для эффективного запуска на локальном железе (CPU Xeon, GPU с 8GB VRAM) через llama.cpp и Ollama.

Техническая информация:

• Инструмент конвертации: llama.cpp билд 8373 (коммит 46dba9fce).

📝 О модели

Qwen3-VL-4B-Instruct-action — это специализированная Vision-Language-Action (VLA) модель. В отличие от обычных текстовых нейросетей, она обучена понимать пространственные характеристики объектов и планировать физические действия.

Данная модель является специализированным Vision-Language-Action (VLA) агентом, разработанным командой SberRoboticsCenter. Она послужила фундаментальной архитектурой и базой для проекта Green-VLA.

Модель дообучена для предсказания точных пространственных координат и планирования действий роботов, выступая связующим звеном между визуальным восприятием и физическим исполнением задач.

Научная работа: Green-VLA: Staged Vision-Language-Action Model for Generalist Robots

🛠 Области применения и практика

• 🤖 Робототехника: Высокоточное детектирование объектов для задач захвата (Pick-and-Place). Модель выдает нормализованные координаты [ymin, xmin, ymax, xmax] для манипуляторов.
• 🖥 Автоматизация UI (RPA): Визуальная навигация по интерфейсам программ. Идеально для тестирования ПО или управления старым софтом через "зрение", находя кнопки и поля ввода.
• 🏭 Индустриальное зрение: Контроль качества на линиях, мониторинг техники безопасности (наличие касок/жилетов) и анализ препятствий для мобильных роботов.
• 📄 Продвинутый OCR: Извлечение данных из чертежей, чеков и сложных мультиязычных документов, где важен контекст и структура.

📂 Состав сборки (Экспериментальная)

🚀 Инструкция по запуску

1. Через llama.cpp (CLI)

./llama-cli -m Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf \
            --mmproj mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf \
            --image "path/to/your/image.jpg" \
            -p "<|im_start|>user\n<|vision_start|><|vision_end|>Опиши объекты на фото.<|im_end|>\n<|im_start|>assistant\n" \
            -n 512 --temp 0.1

• Примечание: В параметре --image укажите путь к вашему тестовому изображению (поддерживаются форматы .jpg, .png).

2. Через Ollama

Создайте Modelfile:

FROM ./Sber_Qwen3-VL-4B-Instruct-action-Q4_K_M.gguf
ADAPTER ./mmproj-Sber_Qwen3-VL-4B-Instruct-action-F16.gguf
PARAMETER num_ctx 16384
PARAMETER num_gpu 99

Запуск: ollama create sber-action -f Modelfile

---

⚠️ Testing Status (WIP / В процессе)

Technical correctness of the conversion is confirmed. Functional verification of Action capabilities (coordinate prediction accuracy in GGUF) is currently in progress. Техническая корректность конвертации подтверждена. Этап верификации Action-способностей (точность предсказания координат в GGUF) находится в процессе.

⚖️ Лицензия

Данная модель распространяется под лицензией Apache 2.0. Использована оригинальная модель от команды SberRoboticsCenter.

---

Developed within the TirGun project. Local AI. Privacy. Efficiency.

---