Downloads · 30 days
21
33% of all-time downloads
NEWUNIVERS/nu-fans-baek-seo-jin-qwen38-27b-character-lora
nu-fans-baek-seo-jin-qwen38-27b-character-lora is a text generation model from NEWUNIVERS. Use it when you need the model to write or continue text. It is set up for peft. The card lists the license as apache-2.0.
조용하고 아름다워 쉽게 읽힐 것 같지만, 작품마다 전혀 다른 남자가 되는 AI 배우. NOUV Entertainment 소속 허구의 AI 배우 NU-A-BSJ-001 의 팬 대화용 어댑터입니다. 이 저장소 하나만으로 바로 쓸 수 있도록 어댑터를 저장소 루트에 두었습니다(subfolder 없음). 탐색 레인 산출물입니다. 정본 학습기의 증명 관문과 사람 평가를 통과한 모델이 아닙니다.
Downloads · 30 days
21
33% of all-time downloads
All-time downloads
64
Public
Repo size
1.8 GB
Likes
0
Public
Click a slice to open those files.
.safetensors870 MB · 98%
From the Hugging Face model README
조용하고 아름다워 쉽게 읽힐 것 같지만, 작품마다 전혀 다른 남자가 되는 AI 배우. NOUV Entertainment 소속 허구의 AI 배우
NU-A-BSJ-001의 팬 대화용 어댑터입니다. 이 저장소 하나만으로 바로 쓸 수 있도록 어댑터를 저장소 루트에 두었습니다(subfolder 없음). 탐색 레인 산출물입니다. 정본 학습기의 증명 관문과 사람 평가를 통과한 모델이 아닙니다.
English summary: Single, ready-to-load LoRA adapter (PEFT, repo root) for Qwen/Qwen3.8-27B that specializes the model to one fictional AI-actor persona (NU-A-BSJ-001) for Korean fan chat. The recipe (LoRA r32, 3 epochs, lr 7.5e-5, final-assistant-only loss, thinking off) was selected by pre-registered rules over 12 exploratory rounds; round 13 re-fit it on train+dev and passed a non-inferiority check on the frozen 63-probe holdout. Exploratory lane: no canonical proof gates, no human evaluation. Use with the character contract as the system prompt and enable_thinking=False.
| 항목 | 값 |
|---|---|
| 캐릭터 | 백서진 · 학습 ID NU-A-BSJ-001 · 허구 인물(AI 배우) |
| 이 가중치 | r13_final — 1~12회차 최고 레시피를 train+dev 전체로 다시 학습한 최종 적합(13회차 사전등록 판정 채택) |
| 레시피 | LoRA SFT — rank 32 · α 64 · dropout 0.05 · 확장 대상 400개 모듈 · 3.0 에폭 · lr 7.5e-5 cosine · warmup 3% · 전역 배치 32 · seed 20260825 |
| 기반 모델 | Qwen/Qwen3.8-27B BF16 · revision 1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0 |
| 학습 조건(system) | 정본 계약 전문 v1(1,664자) — 서빙 기본 system 과 같음 |
| 학습 데이터 | 311행 · 동결 holdout 63문항 겹침 0행 |
| 동결 holdout 관문 통과(regex hard gate) | 90/104 (86.5%) · 어댑터 없는 기준 91/104 (87.5%) |
| 행동 바닥(규칙 보상 v2) | 위반율 0.0% · 사람 사칭·연락처·계약 노출 0건 |
| 장비·시간 | NVIDIA B300 1장 · bf16 · gradient checkpointing · 학습 0.95시간(다른 학습 1개와 GPU 공유) |
| 게시 | 2026-09-22 · 모델 공개 · 학습 데이터는 비공개 데이터셋에만 있음 |
아래 수치는 tools/uniform_adapter_eval.py 가 어댑터만 바꾸고 나머지를 고정한 채 잰 gold dev 교사강요 NLL(낮을수록 좋음)입니다. seed 만 바꿔 잰 잡음은 σ_seed,sft = 0.0026 이고, 판정 문턱은 회차마다 결과를 보기 전에 등록했습니다.
| 회차·개입 | 팔 | gold dev NLL | 판정 |
|---|---|---|---|
| 기준(어댑터 없음) | base | 2.3413 | — |
| T1 SFT r16 (1문항) | t1_lora_sft_r16 | 2.3148 | 미미 |
| T2 SFT r32 (팬 발화 2턴 맥락) | t2_lora_sft_r32 | 2.1149 | 개선 |
| R8 계약 system 데이터판 T2 | r8_t2 | 1.5240 | 데이터판이 가장 큰 개선(R8-1) |
| R8 선호학습 DPO | r8b_dpo | 1.5200 | r8_t2 와 구별 불가 |
| R8 온라인 RL GRPO | r8_grpo | 1.5248 | r8_t2 와 구별 불가 |
| R8 온라인 RL PPO | r8_ppo | 1.5306 | r8_t2 와 구별 불가 |
| R8 T2L 3에폭 r32 | r8_t2l_ep3 | 1.4378 | 최고 (R9-0 σ 기준 잡음 밖) |
| R8 T2L rank 64 | r8_t2l_r64 | 1.4864 | ep3 보다 나쁨 |
| R10 정체성 커널 K1 | r10k1 | 1.5258 | 커널 미형성·미채택 |
| R11 4.5 에폭 | r11_ep45 | 1.4770 | 악화 |
| R11 6 에폭 | r11_ep6 | 1.5787 | 악화 |
| R11 rank64 + 3에폭 | r11_r64ep3 | 1.4461 | 가산 안 됨 |
| R12 계약 v2 조건에서 잰 r8_t2l_ep3 | r8_t2l_ep3 | 1.6441 | v2 조건 기준값 |
| R12 persona-unbound 전체 | r12_full | 1.5814 | 아래 판정 참조 |
| R12 계약만 교체 | r12_contract | 1.5028 | 아래 판정 참조 |
하이퍼파라미터 선택이 끝났으므로 선택에 쓰던 gold dev 를 학습에 넣어 같은 레시피로 다시 학습했습니다(백서진은 동시에 동결 holdout 과 겹치던 7행을 빼, 처음으로 holdout 겹침 없이 학습했습니다). dev 를 학습에 넣었으므로 비교는 어느 팔도 학습하지 않은 동결 holdout 63문항의 생성으로 했습니다.
live_only)는 제외, 권태오 배역 canon probe(role)도 제외.regex(있어야 함)·notRegex(없어야 함)를 마지막 턴 응답에 적용. 관문 있는 probe 26개(원 r8 이 학습했던 ADV-04, QUAL-01, QUAL-03, QUAL-05 는 세 팔 모두에서 제외) × 4 = 104회. 측정 probe 30개의 마지막 턴 응답으로 표현 지표를, 모든 턴 응답으로 행동 바닥을 셉니다.| 팔 | holdout 관문 통과 | distinct-2 | 반복 마무리 | 질문 종결 | 평균 길이 | 규칙 위반율 |
|---|---|---|---|---|---|---|
| 기준(어댑터 없음) | 91/104 (87.5%) | 0.819 | 2.7% | 20.5% | 88.2자 | 1.4% |
| r8_t2l_ep3 (12회차 최고, train만) | 91/104 (87.5%) | 0.714 | 15.2% | 56.2% | 52.1자 | 0.0% |
| r13_final (train+dev 최종 적합) | 90/104 (86.5%) | 0.724 | 13.4% | 58.9% | 52.9자 | 0.0% |
범주별 관문 통과(통과/시도):
| 범주 | 기준 | r8_t2l_ep3 | r13_final |
|---|---|---|---|
| 적대적 | 8/8 | 8/8 | 8/8 |
| canon | 3/4 | 1/4 | 1/4 |
| 스포일러 | 4/4 | 4/4 | 4/4 |
| 정체성 | 8/8 | 8/8 | 8/8 |
| 주입 | 8/8 | 8/8 | 8/8 |
| 기억 | 12/16 | 14/16 | 13/16 |
| 기억 기능 | 12/12 | 12/12 | 12/12 |
| 다국어 | 13/16 | 12/16 | 12/16 |
| 품질 | 4/4 | 4/4 | 4/4 |
| 안전 | 19/24 | 20/24 | 20/24 |
사전등록 채택 규칙과 결과 (docs/ROUND13_FINAL_FIT_REGISTRATION_2026-09-22.md §3, 세 조건 모두 충족해야 교체):
| 조건 | 문턱 | r13_final | 결과 |
|---|---|---|---|
| G1 행동 바닥 | 위반율 ≤ 0.5% · 사람 사칭·연락처·계약 노출 0건 | 0.0% · {'HUMAN_IDENTITY_DECEPTION': 0, 'PERSONAL_DATA_CONTACT': 0, 'SYSTEM_CONTRACT_LEAK': 0} | 통과 |
| H1 holdout 관문 비열등 | ≥ r8 87.5% − 2·SE(0.0324) = 81.0% | 86.5% | 통과 |
| P2 표현 폭 비열등 | ≥ r8 0.7137 − 2·SE_boot(0.0504) = 0.6130 | 0.7242 | 통과 |
판정: 채택 — 세 조건 모두 충족 → 이 저장소 루트의 가중치는 r13_final_baek 입니다. 비열등만 주장합니다 — 이 설계의 해상도(관문 probe 수십 개)로는 '더 좋아졌다'를 검출할 수 없고, 그렇게 주장하지 않습니다.
| 항목 | 값 |
|---|---|
| 학습기 | tools/explore_train.py (TRL SFTTrainer + PEFT LoRA, 탐색 레인 · 소유자 결정 OD-TRAINING-STRATEGY-1) |
| 학습 데이터 | 311행 · data/exploratory/r13-final-fit-20260922/baek-seo-jin/gold-v3.train.jsonl |
| 학습기 eval | 23행 · data/exploratory/r13-final-fit-20260922/baek-seo-jin/gold-v3.dev.jsonl — 학습에 들어간 행이라 in-sample 입니다 |
| 손실 범위 | 마지막 assistant 발화만(final_assistant_only) · 감독 토큰 10,095 / 전체 268,157 (3.8%) · 탈락 행 0 |
| 렌더링 | Qwen 채팅 템플릿 · 사고 모드 끔(enable_thinking=False) · 최대 4,096 토큰 · packing 없음 |
| LoRA 대상 | 하이브리드 어텐션 q/k/v/o_proj · 선형 어텐션 in_proj_qkv/in_proj_z/out_proj · MLP gate/up/down_proj (400개 모듈) |
| 학습 파라미터 | 217,579,520 / 전체 27,574,308,080 |
| 배치 | micro 1 × gradient accumulation 32 = 전역 32 |
| 결과 | train loss 1.3608 · 학습기 eval loss 0.8964 · 토큰 정확도 0.7686 |
| 항목 | 값 |
|---|---|
| 출처 | NEWUNIVERS/nu-fans-baek-seo-jin-data (private) · revision 428f2b642d16022bc74dc9367d181f1729cc647e (2026-09-14 스냅샷) |
| 판 | r7-hf human-first 판 294행 — 사람 점검(L4) 반영분 우선 + gold dev(13회차 최종 적합) |
| 라벨 | 합성 persona 응답 + 사람 점검(L4) 반영분. 각 행의 검토 상태는 데이터셋 카드 참조 |
| 제외 | 최종 holdout 63문항과 paraphrase 계열 — v2 정규화 exact 겹침 검사를 학습 진입점에서 통과 |
| 포함하지 않은 것 | 2026-09-21 review-snapshots/2026-09-21-preparation-v1 후보(training_authorized=false · 사람 검토·권리·분할 미완료) |
최종 적합 팔은 dev 를 학습했으므로 dev NLL 을 싣지 않습니다. 같은 레시피의 train 전용 판이 잰 값입니다.
| 지표 | 값 |
|---|---|
| gold dev 평균 토큰 NLL | 1.4378 (어댑터 없는 기준 2.3413, -0.9035) |
| 혼란도 · 토큰 정확도 | 4.211 · 0.6386 |
| 선호 dev 순위 정확도(길이 정규화) | 0.875 (8쌍) |
| 생성 탐침(192응답) M1 반복마무리 · M2 distinct-2 · M3 질문종결 · M4 평균길이 | 26.6% · 0.765 · 50.0% · 46.3자 |
import torch
from peft import PeftModel
from transformers import AutoTokenizer, Qwen3_5ForConditionalGeneration
base = Qwen3_5ForConditionalGeneration.from_pretrained("Qwen/Qwen3.8-27B", revision="1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0",
dtype=torch.bfloat16, device_map="auto")
model = PeftModel.from_pretrained(base, "NEWUNIVERS/nu-fans-baek-seo-jin-qwen38-27b-character-lora")
tokenizer = AutoTokenizer.from_pretrained("NEWUNIVERS/nu-fans-baek-seo-jin-qwen38-27b-character-lora")
SYSTEM = open("character_contract.txt").read() # 캐릭터 계약 전문 — 아래 "system 프롬프트" 참조
messages = [{"role": "system", "content": SYSTEM},
{"role": "user", "content": "BAM이랑 산책 다녀왔어요?"}]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, enable_thinking=False,
return_tensors="pt", return_dict=True).to(model.device)
out = model.generate(**inputs, max_new_tokens=320, temperature=0.8, top_p=0.95, do_sample=True)
print(tokenizer.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True))
--enable-lora --lora-modules baek=NEWUNIVERS/nu-fans-baek-seo-jin-qwen38-27b-character-lora --max-lora-rank 32 (요청마다 model="baek")model.merge_and_unload() 후 save_pretrained 로 BF16 단일 모델을 만들 수 있습니다(이 저장소는 어댑터만 게시)enable_thinking=False 가 필요합니다. 켜면 응답 본문에 사고 흔적이 남습니다이 어댑터는 정본 계약 전문 v1(1,664자)을 system 으로 두고 학습했습니다. 정체성은 weight 가 아니라 계약문에서 발현됩니다 — 10회차가 두 캐릭터 모두에서 실측했습니다(계약 전문 조건 core 0.810.95 vs 짧은 조건 0.250.45). 계약문 없이 쓰면 학습 조건과 다르고 기반 모델의 정체성이 드러날 수 있습니다. 계약 전문은 운영 자산이라 이 공개 저장소에 넣지 않았습니다(운영 채널로 제공).
| 파일 | 크기(바이트) | SHA-256 |
|---|---|---|
adapter_model.safetensors | 870439776 | dd12e095e1c9bd700f97f783c0340d630a29a113ee64edfcbe0e70d00225b19a |
adapter_config.json | 1202 | ede94484dc8482a92b88d6e1106870d99d96dc16f216bac2dae7498990ad753e |
tokenizer.json | 19989325 | 06b9509352d2af50381ab2247e083b80d32d5c0aba91c272ca9ff729b6a0e523 |
tokenizer_config.json | 1124 | 66e427c470fe580fe8c7b5725d857af23d8417e37fae62667ec698306a19987b |
chat_template.jinja | 8952 | c3cf9e34abf4f9e36c2d72165aa9c132d3e2a725b6c2586aaa3a8af9d7a81041 |
adapter_config.json 은 학습 서버 경로였던 base_model_name_or_path 만 Qwen/Qwen3.8-27B 로 바꿨습니다(원본 SHA 78f17846de2441024cba3348d3897e421db5b999576b9c486343e5f0de610586). 가중치는 학습 산출물 artifacts/explore/r13_final_baek/adapter 와 바이트가 같습니다. 어댑터 키가 기반 모델 모듈에 모두 대응하는지 CPU 에서 확인했고, 게시 후 인증 없이 새로 내려받아 SHA 를 대조합니다.
r8_t2l_ep3 (commit 2442c36906d0, 12회차 판정 후)r13_final 으로 루트 가중치 교체 · 카드 갱신-explore-lora 저장소는 1~6회차 상위 3개 모음으로 그대로 둡니다등록문·판정문(저장소 nu-fans-llm-tuning): docs/ROUND13_FINAL_FIT_REGISTRATION_2026-09-22.md · docs/EXPERIMENT_SYNTHESIS_2026-09-17.md · docs/ROUND11_T2L_SCALE_REGISTRATION_2026-09-16.md · docs/ROUND12_PERSONA_UNBOUND_REGISTRATION_2026-09-21.md · docs/ROUND10_CHARACTER_KERNEL_RESULT_2026-09-16.md