ziyuukenkyuu2026natu

LFM2.5-1.2B Japanese Specialized (GGUF)

概要

LFM2.5-1.2B-Instructをベースに、日本語特化のファインチューニングを行ったモデル（GGUF形式）。

実験結果

ファインチューニングにより日本語の簡潔さは改善したが、推論能力や知識量は劣化。ベースモデルが元から日本語に強かったため。

生成されたファイル

• lfm2.5-1.2b-japanese-q4_k_m.gguf (698MB) - ファインチューン版 (推奨)
• lfm2.5-1.2b-base-q4_k_m.gguf (698MB) - ベースモデル (未学習)
• lfm2.5-1.2b-japanese-f16.gguf (2.2GB) - ファインチューン版 (高品質)
• lfm2.5-1.2b-base-f16.gguf (2.2GB) - ベースモデル (高品質)

使い方

# llama.cpp で推論
llama-cli -m lfm2.5-1.2b-japanese-q4_k_m.gguf -p "日本の首都は？"

# llama-server でAPI起動
llama-server -m lfm2.5-1.2b-japanese-q4_k_m.gguf --host 0.0.0.0 --port 8080

学習設定

• ベースモデル: LiquidAI/LFM2.5-1.2B-Instruct
• 学習方式: QLoRA (4bit)
• データ: 96,208件 (HuggingFace日本語データセット)
• エポック数: 1
• 学習時間: 約8時間
• GPU: RTX 4060 (8GB VRAM)

ライセンス

• ベースモデル: LFM Open License v1.0 (LiquidAI)
• 自由研究・非営利目的で利用可能

プロジェクト

https://github.com/kubobeem/ziyuukenkyuu2026natu