Downloads · 30 days
265
22% of all-time downloads
Giga-Embeddings-instruct-480M-0826-GGUF
rad0main/Giga-Embeddings-instruct-480M-0826-GGUF
Giga-Embeddings-instruct-480M-0826-GGUF is a sentence similarity model from rad0main. Use it when you need a score for how close two texts are. It is set up for llama.cpp. The card lists the license as other.
Производная GGUF-версия модели ai-sage/Giga-Embeddings-instruct-480M-0826, сконвертированная в Q80 и оптимизированная под llama.cpp. Все заслуги — у оригинальных авторов; эта карточка описывает именно GGUF-конверсию.
All-time downloads
1.2K
Public
Repo size
1.5 GB
Likes
4
Public
Repo makeup
Click a slice to open those files.
.gguf1.5 GB · 100%
At a glance
- Task
- Sentence Similarity
- Library
- llama.cpp
- License
- other
- Access
- Public
- Created
- Aug 26, 2026
- Updated
- Sep 20, 2026
- SHA
- a4e6cb29
Base models
Model card
From the Hugging Face model README
🇷🇺 Giga-Embeddings-instruct-480M-0826 · GGUF Q8_0
Производная GGUF-версия модели ai-sage/Giga-Embeddings-instruct-480M-0826,
сконвертированная в Q8_0 и оптимизированная под llama.cpp.
Все заслуги — у оригинальных авторов; эта карточка описывает именно GGUF-конверсию.
Github карточка(https://github.com/rad0main/Giga-Embeddings-480M-0826-GGUF)
Что это
480-миллионная русско-фокусированная эмбеддинг-модель на архитектуре Qwen3 с MEAN-pooling,
которая в оригинальной safetensors-версии занимает топ-1 на ruMTEB (70.98).
Эта GGUF-сборка позволяет запускать её локально через llama-server --embedding
без Python-окружения и GPU-инференса.
Ключевые параметры
| Параметр | Значение |
|---|---|
| Архитектура | Qwen3 (encoder-style, bidirectional) |
| Параметры | 480M |
| Размерность | 1024 |
| Pooling | MEAN |
| Контекст | 8192 токенов |
| Формат файла | GGUF Q8_0 (~512 МБ) |
| Инструкции | поддерживаются |
| Языки | русский, английский |
- Task
- Sentence Similarity
- Library
- llama.cpp
- License
- other
- Languages
- ru, en
- Created
- Aug 26, 2026
- Updated
- Sep 20, 2026