allex-eef-N-robotonly-h40rel

allex-eef-N-robotonly-h40rel — horizon 40 / 손목 relative / 슬롯 35

ALLEX RLDX-1 mid-train. allex-eef-N-robotonly-h16 에서 다섯 가지를 바꾼 런이다.

구조

from huggingface_hub import snapshot_download
snapshot_download("jungwook2358/allex-eef-N-robotonly-h40rel",
                  allow_patterns="checkpoint-10000/*")

action 50D — 두 규약이 한 배열에 섞여 있다

idx  키                      차원  표현
 0   left_wrist_wrt_base       9   RELATIVE / EEF / XYZ_ROT6D   (xyz 3 + rot6d 6)
 1   right_wrist_wrt_base      9   RELATIVE / EEF / XYZ_ROT6D
 2   left_hand_joints         15   ABSOLUTE / NON_EEF
 3   right_hand_joints        15   ABSOLUTE / NON_EEF
 4   neck_joints               2   ABSOLUTE / NON_EEF

waist 는 제외. 합 50D. (max_action_dim 64 까지 제로패딩)

손목 상대화

기준 프레임은 청크당 하나 — state[key][-1], 즉 현재 시각 t 의 손목 state. 40스텝 전체가 같은 기준을 쓴다 (스텝마다 바뀌면 DELTA 이고, 이 런은 RELATIVE).

T_rel[i] = inv(T_ref) @ T_abs[i]          # SE(3), 원소별 뺄셈이 아니다
xyz   = T_rel[:3, 3]
rot6d = R_rel[:2, :].flatten()            # 회전행렬의 첫 두 '행'

rot6d 디코드는 그람-슈미트로 정규직교화한다.

추론 시 반드시 역변환할 것: T_abs[i] = T_ref @ T_rel[i], 기준은 그 시점 관측된 손목 state. 안 하면 손목이 원점 근처에 머문다.

정규화 — 손목과 나머지가 다르다

식은 공통 2*(x - q01)/(q99 - q01) - 1 후 clamp(-1, 1).

⚠️ 상대통계의 키 이름이 거짓말을 한다. q01/q99 라는 이름 안에 q0.1%/q99.9% 값이 들어 있다. 실제 퍼센타일은 _percentiles 필드로 확인할 것. ⚠️ 상대통계는 (40, 9) 로 스텝별 바운드다. horizon 이 다르면 쓸 수 없다.

통계는 checkpoint-*/experiment_cfg/dataset_statistics.json 과 checkpoint-*/processor/statistics.json 에 들어 있다. 다른 런·다른 체크포인트의 통계를 갖다 쓰지 말 것.

패딩 dim 노이즈 차단 (action_noise_mask_dim=50)

RLDX 는 action 을 64까지 제로패딩하고 전 dim 에 flow-matching 노이즈를 주면서 패딩 dim 의 loss 는 마스킹한다. 그 dim 의 velocity 는 한 번도 학습되지 않으므로 추론 ODE 에서 노이즈가 줄지 않고 실제 관절로 intra-chunk jitter 가 샌다.

이 런은 학습에서 noise[..., 50:] = 0, 추론에서 초기 노이즈와 매 Euler step 직후 actions[..., 50:] = 0 으로 막는다. 값이 config.json 에 박혀 있어 추론 시 별도 플래그가 필요 없다 — 단, 그 처리를 구현한 코드로 추론해야 한다.

embodiment 슬롯 35

new_embodiment. 베이스 모델에서 이 슬롯은 std 가 init 값 0.02 그대로이고 L2 가 36슬롯 중 최소인 사실상 랜덤 초기화 슬롯이다 (슬롯 0 은 반대로 노름 최대 = 프리트레인 최다 학습). 프리트레인 편향이 없는 대신 맨바닥부터 학습한다.

그 외 설정

• base RLWRLD/RLDX-1-PT-IMG, --override-pretraining-statistics
• 글로벌 배치 256 (4 GPU × per-device 64, accum 1), lr 1e-4, 60,000 스텝
• 카메라 2대 (ego left/right), 256×256 → 랜덤 크롭 230×230 → 256 복원 → color jitter (image_max_area 65536, image_resize_m 32, jitter 0.6/0.6/0.6/0.16)
• video_length 1, state_dropout 0.3
• VLM 동결 (tune_llm=False, tune_visual=False, tune_top_llm_layers=0)
• 데이터: robot allex v1~v6 만 (사람 데이터 없음)
• CogAlign 없음, 토크나이저 latent 없음 (arm N)

추론에 쓰이지 않는 학습 상태(global_step*/, optimizer.pt, scheduler.pt, rng_state_*.pth, training_args.bin, zero_to_fp32.py)는 올리지 않았다.

코드

• Stage-2: jungwook235/RLDX-1-egopi branch feat/allex-eef-h16-midtrain (fc7a000)
  • modality config: run_scripts/train/allex_eef/allex_eef_h40_rel_newemb_config.py
• 제출 스크립트: jungwook235/action-tokenizer (698a172)
  • gpu26-server/submit/allex_eef_run5_base_robotonly_h40rel.sh
  • 상대통계 생성: gpu26-server/submit/allex_gen_rel_stats_one.sh

⚠️ action_dim 이 48 이 아니라 50 이다.