Downloads · 30 days
0
japanese-math-lora-3stage-60k
yamaTK/japanese-math-lora-3stage-60k
japanese-math-lora-3stage-60k is a text generation model from yamaTK. Use it when you need the model to write or continue text. It is set up for peft. The card lists the license as apache-2.0.
LLM-JP チューニングコンテスト 2026 で使用した日本語数学問題解答用 LoRA アダプタです。
Access
Public
Updated Mar 1, 2026
Repo size
164 MB
Likes
0
Public
Repo makeup
Click a slice to open those files.
.safetensors164 MB · 100%
At a glance
- Task
- Text Generation
- Library
- peft
- License
- apache-2.0
- Access
- Public
- Created
- Mar 1, 2026
- Updated
- Mar 1, 2026
- SHA
- 1e65066e
Model card
From the Hugging Face model README
japanese-math-lora-3stage-60k
LLM-JP チューニングコンテスト 2026 で使用した日本語数学問題解答用 LoRA アダプタです。
3段階パイプラインの各ステージに対応する LoRA アダプタを収録しています。
パイプライン構成
問題文 → [LLM1: Planner] → ヒント生成
→ [LLM2: Procedure] → 解法ステップ生成
→ [LLM3: Code Generator] → Python/SymPy コード生成 → 実行・回答
アダプタ一覧
| ディレクトリ | 役割 | 説明 |
|---|---|---|
llm1_planner/ | Planner | 問題文から解法ヒントを生成 |
llm2_procedure/ | Procedure Generator | ヒントからステップごとの解法手順を生成 |
llm3_code/ | Code Generator | 解法手順から Python/SymPy コードを生成 |
LoRA 設定
| パラメータ | 値 |
|---|---|
| ベースモデル | v4-8b-decay2m-ipt_v3.1-instruct4 (8B) |
| PEFT | LoRA |
| rank (r) | 16 |
| lora_alpha | 32 |
| lora_dropout | 0.05 |
| target_modules | q_proj, k_proj, v_proj, o_proj |
学習データ
yamaTK/japanese-math-synthetic-108k のトピック別データ（Algebra, Calculus, Complex, Linear_Alg, Prob_Stat, Sequence — 約60,000問）を使用して学習しました。
- Task
- Text Generation
- Library
- peft
- License
- apache-2.0
- Languages
- ja
- Created
- Mar 1, 2026
- Updated
- Mar 1, 2026