gemma-2-9b-4bit-Q-lora-kura-4

Model Overview 本モデルは、Googleの「gemma-2-2b」モデルに対してLoRAベースのファインチューニング（SFT: Supervised Fine-Tuning）を行ったものです。 学習は4bit量子化（QLoRA）設定を用いて実行し、効率的な学習を実現しました。また、最後の2層のみLoRAパラメータを学習可能にし、それ以外のパラメータを凍結することで、計算コストを削減しつつモデルの性能向上を図っています。

Training Process

データ整形 -OpenAI o1モデルにより、博士レベルのQ＆Aデータセットを生成(約2500件) -elyza/ELYZA-tasks-100のデータセット (100件) -HuggingFaceH4/no_robotsのデータセットの一部 (27件) のデータを整形・クリーニングし、cleaned_data.jsonlとして再生成。

サンプリング・データセット構築 上記データセットから一部をランダムサンプリング（1500件）し、merged_data_final_sampled.jsonlを作成。 指示と出力を所定のプロンプトフォーマット（### 指示 ... ### 答え ...）に整形。

QLoRAによる軽量学習 google/gemma-2-2bモデルに対して4bit量子化（QLoRA）設定を適用し、GPUメモリ使用量を抑えながら微調整。 LoRAパラメータの適用により、ベースモデル本体の大部分を凍結し、追加パラメータのみ学習。

層凍結とLoRA学習 全層を一旦凍結した後、最後の2層のみLoRAパラメータを学習可能にする設計を採用。 これにより、わずかな計算コストでモデルが指示応答タスクに最適化。

学習・検証 指定したエポック数でトレーニングを実施。

Intended Use 本モデルは、特定のドメインに特化するのではなく、限られたリソースとデータで指示応答性能を底上げする可能性を探った事例です。 幅広い指示に対し、ある程度の品質で応答を生成する「汎用的な指示対応能力」を期待し、簡易なアシスタントやタスク指向のガイドとして利用することを想定しています。

Limitations トレーニングデータやリソースが限られており、特定分野の専門的知識には対応が十分でない場合があります。 QLoraを用いた軽量微調整であり、モデル性能はベースモデルやデータ分布に左右されます。 継続的な改善や追加データによる再学習により、さらなる汎用化・品質向上が期待されます。