Downloads · 30 days
5
6% of all-time downloads
himedia/fincredit-lamma-3.2-3b-lr2e04-bs16-r64-steps1000-20250702_182245
fincredit-lamma-3.2-3b-lr2e04-bs16-r64-steps1000-20250702_182245 is a text generation model from himedia. Use it when you need the model to write or continue text. The card lists the license as apache-2.0.
FinCreditLlama-3.2-3B는 금융 신용 평가를 위해 특별히 설계된 한국어 언어 모델입니다.
Downloads · 30 days
5
6% of all-time downloads
All-time downloads
83
Public
Parameters
3.2B
12.9 GB on disk
Likes
0
Public
Click a slice to open those files.
.safetensors12.9 GB · 100%
From the Hugging Face model README
FinCreditLlama-3.2-3B는 금융 신용 평가를 위해 특별히 설계된 한국어 언어 모델입니다.
베이스 모델: unsloth/Llama-3.2-3B-Instruct 데이터셋: himedia/financial_dummy_data_v4 학습 방법: LoRA (Low-Rank Adaptation) - 병합된 전체 모델 학습 일시: 20250702_182245
from transformers import AutoTokenizer, AutoModelForCausalLM
# 모델과 토크나이저 로드
tokenizer = AutoTokenizer.from_pretrained("himedia/fincredit-lamma-3.2-3b-lr2e04-bs16-r64-steps1000-20250702_182245")
model = AutoModelForCausalLM.from_pretrained("himedia/fincredit-lamma-3.2-3b-lr2e04-bs16-r64-steps1000-20250702_182245")
# 간단한 추론 예제
prompt = "고객의 신용등급을 평가해주세요:"
inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(**inputs, max_length=200)
result = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(result)
from vllm import LLM, SamplingParams
# vLLM 로드 (병합된 모델이므로 바로 사용 가능)
llm = LLM(
model="himedia/fincredit-lamma-3.2-3b-lr2e04-bs16-r64-steps1000-20250702_182245",
max_model_len=2048,
gpu_memory_utilization=0.85
)
# 샘플링 파라미터 설정
sampling_params = SamplingParams(
temperature=0.7,
top_p=0.9,
max_tokens=200
)
# 추론
prompts = ["고객의 신용등급을 평가해주세요:"]
outputs = llm.generate(prompts, sampling_params)
for output in outputs:
prompt = output.prompt
generated_text = output.outputs[0].text
print(f"Prompt: {prompt!r}")
print(f"Generated text: {generated_text!r}")
from unsloth import FastLanguageModel
# 원본 LoRA 어댑터로 테스트
model, tokenizer = FastLanguageModel.from_pretrained(
model_name = "himedia/fincredit-Llama-3.2-3B-lr2e04-bs16-r64-steps1000-20250623_060351", # LoRA 어댑터
max_seq_length = 2048,
dtype = None,
load_in_4bit = True,
)
이 레포지토리에는 다음 학습 관련 파일들이 포함되어 있습니다:
training_log.json: 전체 학습 로그 (JSON 형식)FinCreditLlama-3.2-3B_20250702_182245_training_curves.png: 학습 곡선 시각화 이미지fincredit-lamma-3.2-3b-lr2e04-bs16-r64-steps1000-20250702_182245 = fincredit-lamma3-4b-lr2e04-bs2-r64-steps1000-20250702_182245
fincredit-lamma3-4b: 모델 기본명lr2e04: Learning Ratebs2: Batch Sizer64: LoRA ranksteps1000: 학습 스텝20250702_182245: 학습 시각himedia/fincredit-Llama-3.2-3B-lr2e04-bs16-r64-steps1000-20250623_060351이 모델은 한국어 금융 텍스트에 대해 파인튜닝되어 신용 평가 관련 질의응답에 특화되어 있습니다.
Apache 2.0