kanana-lora-overfit

<!-- This model card has been generated automatically according to the information the Trainer had access to. You should probably proofread and complete it, then remove this comment. -->

kanana-lora-overfit

kanana-lora-overfit는 동국대학교 nDrims 행정 시스템 자동화(LAM 기반) 연구를 위해 제작된 LoRA 모델입니다.
본 모델은 kakaocorp/kanana-nano-2.1b-instruct를 기반으로 하며,
학교 행정 업무(Task)를 단계별 절차(Plan)로 변환하는 능력을 강화하기 위한 목적으로 미세조정되었습니다.

이 모델은 졸업과제인 “동국대 nDrims 자동화 LAM 에이전트” 연구의 핵심 구성 요소 중 하나로,
사용자가 자연어로 요청한 학교 업무(예: 장학금 조회, 증명서 발급, 상담 신청 등)를
구조화된 step-by-step Task Plan 형태로 생성하는 역할을 담당합니다.

Model description

이 LoRA 모델은 다음의 목표로 설계되었습니다:

• 동국대 nDrims 웹사이트에서 수행되는 실제 행정 업무 절차를 학습
• 사용자의 자연어 요청을 LAM 스타일의 task_plan JSON 구조로 변환
• “Task → Plan” 단계의 일관성과 구조화를 강화
• 자동화 Agent가 실행 가능한 Plan을 생성하도록 최적화

출력 예시는 다음과 같은 구조를 가집니다:

{
  "task_plan": [
    {"step_id": 1, "description": "nDrims에 로그인한다."},
    {"step_id": 2, "description": "학사행정 메뉴로 이동한다."},
    {"step_id": 3, "description": "성적증명서 발급 페이지로 이동한다."},
    {"step_id": 4, "description": "성적증명서 발급을 선택한다."}
  ]
}

Intended uses & limitations

Intended Uses

동국대 nDrims 자동화 LAM Agent 연구

Web automation

학교 행정 Task를 구조화된 Plan으로 변환하는 연구

Task Planning 기반 LAM 개발 및 테스트

Limitations

실제 nDrims UI 변경 시 Plan 일부가 맞지 않을 수 있음

Action 실행 단계는 포함되지 않으며, “Plan 생성”에만 특화됨

Training and evaluation data

훈련 데이터는 다음과 같이 구성되었습니다:

동국대 nDrims에서 발생하는 다양한 행정 Task를 기반으로 제작된 synthetic dataset

JSON 기반 Task-Plan 구조

task_plan 샘플

주요 업무 범위:

취득학점 확인서 조회

강의계힉서 조회

학적부 열람

등록부 고지서 학인

데이터는 LAM 연구 방식(Task → Plan)과 동일한 구조로 설계되었습니다.

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 0.001
• train_batch_size: 64
• eval_batch_size: 8
• seed: 42
• optimizer: Use OptimizerNames.ADAMW_TORCH with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
• lr_scheduler_type: constant
• num_epochs: 3

Training results

Framework versions

• PEFT 0.18.0
• Transformers 4.57.2
• Pytorch 2.9.0+cu126
• Datasets 4.0.0
• Tokenizers 0.22.1