algocean-2.1B-nano-friend

algocean-2.1B-nano-friend

kakaocorp/kanana-nano-2.1b-instruct에 LoRA SFT한 한국어 companion 대화 adapter입니다.
기존 instruct 모델에 감정 공감·친구 대화 말투를 더하고, companion 태스크 성능(eval loss −24%) 을 높인 모델입니다.

Usage

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

base = "kakaocorp/kanana-nano-2.1b-instruct"
adapter = "aisamdasu/algocean-2.1B-nano-friend"

tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base, torch_dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(model, adapter)

messages = [{"role": "user", "content": "오늘 너무 지쳤어. 위로해줘."}]
prompt = tok.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tok(prompt, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=200, do_sample=True, temperature=0.7, top_p=0.9)
print(tok.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))

base 대비

Training

eval loss 변화

• eval loss 1.640 → 1.241 (−24%)
• train loss (마지막 log): 0.755 @ step 7680
• train–eval gap (마지막): 0.755 vs 1.319 → epoch 2 이후 갭 확대

왜 step 6600이 best인가

step 6600 이후 eval만 악화되고 train은 계속 내려갔으므로, 검증 loss 기준 최적 ckpt = 6600이 합리적입니다.

왜 5 epoch까지 더 안 했나

3 epoch 계획 중 ~2.29 epoch에서 eval 악화가 확인됐고, 5 epoch 연장은 eval 개선보다 과적합·스타일 lock-in 쪽이 유력해 best ckpt(6600)로 확정했습니다.

Spec

Example — base vs algocean

User: 오늘 우울해서 떡볶이 먹고 싶어.

원본 (kanana-nano-2.1b-instruct) — 5.38s · 150 tok

오늘 기분이 좋지 않아서 떡볶이가 생각나는 건 정말 공감해요. 떡볶이는 매콤하고 달콤한 맛으로 기분을 한층 나아지게 해주죠. 집에서 간단하게 만들 수 있는 레시피를 공유해드릴게요.

간단한 떡볶이 레시피

재료:

• 떡 200g
• 어묵 1개 …

algocean (LoRA) — 1.32s · 39 tok

아 진짜? 매운 거 당기면 순한 치즈떡볶이로 가자 ㅋㅎㅋㅎㅋㅎ 내일은 덜 속 쓰릴 거야.

원본은 레시피·설명형, algocean은 짧은 맞장구·친구 말투로 답합니다.

Try it — example notebook

원본 vs algocean을 직접 비교하려면 algocean_friend_try.ipynb 를 열고 Run All → PROMPT 수정 → 비교 셀 실행.

hf download aisamdasu/algocean-2.1B-nano-friend algocean_friend_try.ipynb