Downloads · 30 days
14
3% of all-time downloads
AX-3.1-Light-sft_v3_1b_safe
jwg0830/AX-3.1-Light-sft_v3_1b_safe
AX-3.1-Light-sft_v3_1b_safe is a text generation model from jwg0830. Use it when you need the model to write or continue text. It is set up for transformers. The card lists the license as other.
skt/A.X-3.1-Light 기반, sftv021(5,793건, 정답 우선 스키마) + v3.0 데이터셋 중 단답형만(장문 서술형·CoT 제외) 20,513건으로 LoRA SFT 후 병합한 모델입니다.
All-time downloads
544
Public
Parameters
7.3B
14.5 GB on disk
Likes
0
Public
Repo makeup
Click a slice to open those files.
.safetensors14.5 GB · 100%
At a glance
- Task
- Text Generation
- Library
- transformers
- License
- other
- Model type
- llama
- Access
- Public
- Created
- Aug 30, 2026
- Updated
- Aug 30, 2026
- SHA
- 5bd8b0f6
Base models
Model card
From the Hugging Face model README
AX-3.1-Light-sft_v3_1b_safe (동전)
skt/A.X-3.1-Light 기반, sft_v0_21(5,793건, 정답 우선 스키마) + v3.0 데이터셋 중
단답형만(장문 서술형·CoT 제외) 20,513건으로 LoRA SFT 후 병합한 모델입니다.
- 베이스 모델:
skt/A.X-3.1-Light - 학습 방법: LoRA(r=16, alpha=32, dropout=0.05, q/k/v/o_proj), lr 5e-5, 1 epoch
- 목적: v3.0(36,000건 전체, K-AI에서 CLIcK -0.279로 대붕괴)이 장문 서술형/CoT 때문인지 검증하기 위해, 그 부분만 제외하고 재구성
K-AI 리더보드 실제 결과
| 축 | base | v0.2 | v0.21 | v3.0 | v3.1b-safe |
|---|---|---|---|---|---|
| 평균 | 0.423 | 0.398 | 0.4326 | 0.328 | 0.4226 |
| KMMLU-Pro | 0.370 | 0.388 | 0.384 | 0.336 | 0.393 |
| CLIcK | 0.678 | 0.512 | 0.651 | 0.399 | 0.618 |
| HLE(Ko) | 0.065 | 0.063 | 0.066 | 0.069 | 0.070 |
| MuSR(Ko) | 0.503 | 0.517 | 0.550 | 0.443 | 0.550 |
| Com2-main(Ko) | 0.498 | 0.510 | 0.512 | 0.394 | 0.482 |
장문/CoT 배제로 v3.0식 붕괴는 막았으나(평균 base 수준 회복) v0.21은 넘지 못함.
사용 데이터셋 (AI Hub)
- Task
- Text Generation
- Library
- transformers
- Type
- llama
- License
- other
- Languages
- ko
- Created
- Aug 30, 2026
- Updated
- Aug 30, 2026