Qwen2.5-1.5B-Ko-Writing-SLERP

Qwen2.5-1.5B-Ko-Writing-SLERP

한국어 글쓰기를 조금 더 자연스럽게 만드는 것을 목표로, mergekit의 SLERP 방식으로 만든 실험적 병합(merge) 모델입니다. Qwen2.5-1.5B-Instruct(지시 따르기)와 Qwen2.5-1.5B(base, 문장 흐름이 유려함)를 구면보간으로 섞어, 지시는 따르되 한국어 문장이 덜 딱딱하고 부드럽게 나오도록 했습니다.

An experimental SLERP merge of Qwen2.5-1.5B-Instruct and its base model, aimed at smoother, less-stiff Korean prose while keeping instruction-following ability. Small (1.5B), CPU-friendly.

왜 이렇게 만들었나 (Why this merge)

• instruct 모델은 지시를 잘 따르지만 문장이 딱딱해지는 경향이 있습니다.
• base 모델은 지시는 못 따르지만 자연스러운 문장 흐름을 가집니다.
• 둘을 instruct 60% / base 40% 비율(SLERP t=0.4)로 섞어 두 장점을 절충했습니다.

Merge Configuration

models:
  - model: Qwen/Qwen2.5-1.5B-Instruct
  - model: Qwen/Qwen2.5-1.5B
merge_method: slerp
base_model: Qwen/Qwen2.5-1.5B-Instruct
parameters:
  t: 0.4
dtype: float16

사용법 (Usage)

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "<your-username>/Qwen2.5-1.5B-Ko-Writing-SLERP"
tok = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, dtype=torch.float16)

msgs = [{"role": "user", "content": "가을 아침 산책을 주제로 짧은 감성 에세이를 써줘."}]
text = tok.apply_chat_template(msgs, tokenize=False, add_generation_prompt=True)
ids = tok(text, return_tensors="pt")
out = model.generate(**ids, max_new_tokens=200, do_sample=True, temperature=0.7, top_p=0.9)
print(tok.decode(out[0][ids.input_ids.shape[1]:], skip_special_tokens=True))

생성 예시 (Sample Output)

프롬프트: 가을 아침 산책을 주제로 짧은 감성 에세이를 써줘.

가을 아침 산책은 날씨의 변화와 함께하는 아름다운 순간입니다. 날씨가 기분 좋은 아침이 되었을 때, 산책을 즐기면서 감상할 수 있는 매력적인 순간이죠. 따뜻한 빨간색의 나뭇잎과 가을의 푸른 하늘, 그리고 아침 햇살이 퍼지는 소리가 어우러져 가을의 아름다움을 느낄 수 있습니다. (후략)

한계 (Limitations)

• 1.5B 소형 모델이라 긴 글에서 내용이 반복되거나 일반적인 표현이 나올 수 있습니다.
• 사실 정확성이 보장되지 않습니다(환각 가능). 정보성 글보다 감성·창작 글쓰기에 적합합니다.
• 실험적 merge이며 별도의 파인튜닝/RLHF는 거치지 않았습니다.

라이선스 & 출처 (License & Attribution)

• 라이선스: Apache-2.0 (원본 Qwen2.5-1.5B 시리즈를 따름)
• 원본 모델: Qwen/Qwen2.5-1.5B-Instruct, Qwen/Qwen2.5-1.5B © Alibaba Cloud / Qwen Team
• 병합 도구: mergekit