Downloads · 30 days
3
12% of all-time downloads
hw-midm-7B-nsmc
seojin0128/hw-midm-7B-nsmc
hw-midm-7B-nsmc is a machine learning model from seojin0128. Use it for the machine learning task on the model card, and read the license before you ship it in a product. It is set up for peft.
해당 모델은 네이버 영화 리뷰 데이터셋인 NSMC에 대해 KT-AI/midm-bitext-S-7B-inst-v1을 미세튜닝한 모델입니다.
All-time downloads
25
Public
Repo size
68.5 MB
Likes
0
Public
Repo makeup
Click a slice to open those files.
.safetensors67 MB · 98%
At a glance
- Library
- peft
- Access
- Public
- Created
- Dec 16, 2023
- Updated
- Dec 16, 2023
- SHA
- a9bdeb81
Base models
Datasets
Model card
From the Hugging Face model README
Model Card for Model ID
Model Description
midm-bitext-S-7B-inst-v1 미세 튜닝
해당 모델은 네이버 영화 리뷰 데이터셋인 NSMC에 대해 KT-AI/midm-bitext-S-7B-inst-v1을 미세튜닝한 모델입니다.
영화 리뷰 텍스트를 프롬프트에 포함하여 모델에 입력시,'긍정' 또는 '부정' 이라고 예측 텍스트를 직접 생성합니다.
결과적으로, 정확도 90.0%를 가지는 모델을 완성했습니다.
Train, Test 데이터셋
해당 모델은 NSMC의 train 데이터의 상위 2,000개의 샘플을 학습에 사용했습니다.
해당 모델은 NSMC의 test 데이터의 상위 1,000개의 샘플을 평가에 사용했습니다.
Training_step_loss
Confusion_Matrix
Accuracy_Classification_Report
Training procedure
The following bitsandbytes quantization config was used during training:
- quant_method: bitsandbytes
- load_in_8bit: False
- load_in_4bit: True
- llm_int8_threshold: 6.0
- llm_int8_skip_modules: None
- llm_int8_enable_fp32_cpu_offload: False
- llm_int8_has_fp16_weight: False
- bnb_4bit_quant_type: nf4
- bnb_4bit_use_double_quant: False
- bnb_4bit_compute_dtype: bfloat16
Framework versions
- PEFT 0.7.0
- Library
- peft
- Created
- Dec 16, 2023
- Updated
- Dec 16, 2023