KSTU_T-lite-2.1-GGUF

Русский | English

Русский

В этом репозитории содержится KSTU_T-lite-2.1, сконвертированная в GGUF формат с помощью llama.cpp. Оригинальная модель тут: Xalk07/KSTU_T-lite-2.1

KSTU_T-lite-2.1 - это дообученная модель на основе T-lite-it-2.1 от Т-банка. Предназначена для помощи в поиске и выдаче информации об университетском комплексе КГТУ, Россия. В университетский комплекс входит четыре образовательных организации: Калининградский Государственный Технический Университет (КГТУ), Балтийская Государственная Академия Рыбопромыслового Флота (БГАРФ), Калининградский Морской Рыбопромышленный Колледж (КМРК) и Санкт-Петербургский Морской Рыбопромышленный Колледж (СПбМРК).

Модель обучалась в 2 этапа: дополнение предложения (2 эпохи) и обучения инструкциям (3 эпохи). И знает о событиях до второй половины 2025 года.

Метрики:

Сравнение с другим проектом от Донецкого Государственного университета:

Использование: Вы можете использовать квантизированные варианты, оригинальную модель или интерактивное пространство.

❗Квантизированные варианты вы можете легко запустить через LM Studio или другие подобные программы. Для взаимодействия с моделью, достаточно скачать только 1 файл. Больше по размеру - лучше. Но выбирайте изходя из своих аппаратных возможностей.

Для более точных ответов используйте RAG и/или вызов инструментов.

Подробнее о модели можно будет узнать на конференциях и в статьях. (Будут добавляться в описание карточки)

English

This repository contains KSTU_T-lite-2.1, converted to GGUF format using llama.cpp. The original model is here: Xalk07/KSTU_T-lite-2.1

KSTU_T-lite-2.1 is a model fine-tuned from T-lite-it-2.1 by T-Bank. It is designed to assist in retrieving and providing information about the KSTU university complex in Russia. The university complex comprises four educational institutions: Kaliningrad State Technical University (KSTU), the Baltic Fishing Fleet State Academy (BFFSA), the Kaliningrad Marine Fishing College (KMFC), and the St. Petersburg Marine Fishing College (SPMFC).

The model was trained in two stages: sentence completion (2 epochs) and instruction tuning (3 epochs). And it knows about events up to the second half of 2025.

Metrics:

Comparison with another project from Donetsk State University:

Usage: You can use quantized versions, the original model, or an interactive space.

❗You can easily run quantized versions using LM Studio or similar programs. To interact with the model, you only need to download a single file. Larger files generally offer better performance, but you should make your choice based on your hardware capabilities.

For more accurate answers, use RAG and/or tool calling.

More information about the model will be available at conferences and in articles. (These will be added to the card description.)