rby1-skill-planner-qwen3.5-4b

RB-Y1 skill planner (Qwen3.5-4B + LoRA)

머리 카메라 이미지 한 장과 자연어 지시(영어/한국어)를 받아, 양팔 로봇 RB-Y1이 실행할 스킬 시퀀스를 JSON으로 출력합니다.

입력: "바나나 주세요" + 이미지
출력: approach(banana, right) → pick(banana, right) → lift(right) → handover(right)

1. 파인튜닝 방법

지시문은 handover / pick-up / put-on / 손 지정 / 거절(없는 물체, 미지원 동작, 모호, 위험) / 양팔 복합의 6가지 유형, 영어·한국어 반반입니다.

2. 파인튜닝 전후 비교

학습에 쓰지 않은 프레임 3장, 170개 지시문(영 85 / 한 85). 같은 방·카메라·물체 세트이므로 "이 시연 환경" 기준 점수입니다.

프롬프트만으로도 handover·pick-up·손 지정은 거의 만점입니다. 파인튜닝이 고친 것은 거절 형식, 옆 책상 물체 무시, "던져" 같은 미지원 동작, 모호성 판단, 양팔 복합 지시입니다.

주의: 시연에 나올 물체는 반드시 작업대 위에 놓인 사진으로 학습 데이터에 넣어야 합니다. 옆 책상 방해물로만 등장한 물체는 "항상 없다"고 학습됩니다(사과에서 실제로 발생, 합성 데이터로 수정).

3. 출력 형식

{
  "visible_objects": [{"name": "banana", "nearest_arm": "right"}],
  "status": "ok",
  "reason": null,
  "skills": [
    {"skill": "approach", "target": "banana", "arm": "right"},
    {"skill": "pick",     "target": "banana", "arm": "right"},
    {"skill": "lift",     "target": null,     "arm": "right"},
    {"skill": "handover", "target": null,     "arm": "right"}
  ]
}

• skill: approach | pick | lift | handover | put_on | ready_pose
• target: approach/pick은 물체 이름(SAM3 프롬프트로 사용), put_on은 목적지, 나머지는 null
• arm: left | right. 같은 팔은 배열 순서대로, 두 팔은 병렬 실행
• status가 ok가 아니면(object_not_visible | unsupported_action | ambiguous | unsafe) skills는 빈 배열이며 실행하지 않습니다

4. 실행 매뉴얼

서버 (GPU 머신)

pip install "vllm>=0.27" 
vllm serve napalna/rby1-skill-planner-qwen3.5-4b --served-model-name planner-sft --port 8002 \
  --dtype bfloat16 --max-model-len 8192 --limit-mm-per-prompt '{"image": 1}' \
  --structured-outputs-config '{"backend": "xgrammar"}'
curl http://localhost:8002/health      # 200이면 준비 완료 (기동 약 3분, VRAM 약 20 GB)

상위 모듈 → 플래너 호출 (로봇 리포 plan_actions.py)

from plan_actions import plan_actions
plan = plan_actions("바나나 주세요",
                    endpoint="http://<server>:8002/v1/chat/completions",
                    image=head_frame_bgr,   # numpy(BGR) / 파일 경로 / None이면 ZED SHM에서 자동 캡처
                    strict=True)            # 이상 응답 시 예외 (규칙 planner로 조용히 넘어가지 않음)
plan.meta      # {'status': 'ok', 'reason': None, 'visible_objects': [...], 'problems': []}
plan.to_json() # 하위 모듈(TaskQueueManager.load_plan)에 넘기는 형식

플래너 → 하위 모듈: plan.to_json()의 skills 배열을 TaskQueueManager.load_plan()에 넘기면 됩니다. 하위 모듈이 읽는 필드는 skill, target, arm 셋뿐입니다. plan.meta["status"] != "ok"이거나 problems가 있으면 실행하지 마세요.

파이썬 없이 HTTP로 직접 호출

import base64, json, requests
from plan_actions import SYSTEM_PROMPT, PLAN_JSON_SCHEMA
img = base64.b64encode(open("frame.jpg", "rb").read()).decode()
r = requests.post("http://<server>:8002/v1/chat/completions", json={
  "model": "planner-sft", "temperature": 0, "max_tokens": 512,
  "chat_template_kwargs": {"enable_thinking": False},
  "response_format": {"type": "json_schema", "json_schema": {"name": "plan", "schema": PLAN_JSON_SCHEMA, "strict": True}},
  "messages": [{"role": "system", "content": SYSTEM_PROMPT},
               {"role": "user", "content": [{"type": "image_url", "image_url": {"url": "data:image/jpeg;base64," + img}},
                                            {"type": "text", "text": "Instruction: 바나나 주세요"}]}]})
print(json.loads(r.json()["choices"][0]["message"]["content"]))

시스템 프롬프트와 스키마는 로봇 리포의 plan_actions.py에 있으며, 학습 때와 같은 프롬프트를 써야 합니다.

5. 리포 구성

• napalna/rby1-skill-planner-qwen3.5-4b — 병합 가중치 (vLLM으로 바로 서빙)
• napalna/rby1-skill-planner-qwen3.5-4b-lora — LoRA 어댑터만 (100 MB, PEFT로 베이스 위에 로드)
• 벤치마크·학습 코드: 로봇 리포 arpa_h_demo_robot_side (plan_actions.py, PLANNER.md)