llm-course-hw3-xtra-lora

LoRA README

Название модели

LoRA: Low-Rank Adapter для PEFT

Краткое описание

Данная модель представляет собой адаптацию (LoRA) базовой модели с целью эффективного обучения на конкретном датасете и решения задачи выяления тональности твитов (позитивная/нейтральная/негативная).
LoRA позволяет вносить дополнительные параметры в модель, не изменяя основные веса, что снижает ресурсозатраты на обучение.

Задача и датасет

• Задача: выяление тональности твитов (позитивная/нейтральная/негативная)
• Датасет: cardiffnlp/tweet_eval

Архитектура и подход

• Базовая модель: OuteAI/Lite-Oute-1-300M-Instruct
• LoRA: добавлены низкоранговые матрицы (low-rank matrices) к весам базовой модели, которые обучаются отдельно.

Качество и метрики

• Метрики модели без LoRA:
  • F1 = 0.16
• Метрики модели c LoRA:
  • F1 = 0.51
• Конфигурация обучения:
  • Эпохи (epochs): 1
  • Размер батча (batch_size): 12
  • Learning rate (lr): 5e-4

---

Примеры генерации

1. Вход: “QT @user In the original draft of the 7th book, Remus Lupin survived the Battle of Hogwarts. #HappyBirthdayRemusLupin”
   Выход: “positive positive positive positive ”

2. Вход: “Ben Smith / Smith (concussion) remains out of the lineup Thursday, Curtis #NHL #SJ”
   Выход: “neutral neutral neutral neutral”