로봇이 행동하기 전에 미래를 상상하고, 실패를 학습 데이터로 바꾸는 학습 루프가 등장했다. Hugging Face의 LeRobot v0.6.0을 들여다봤다.
로봇을 프로그래밍해본 개발자라면 한 번쯤 겪는 고충이 있다. 시뮬레이션에서는 완벽하게 동작하던 모델이 실제 하드웨어에 올리자마자 엉뚱한 방향으로 팔을 휘두르는 일이다. 결국 직접 카메라 앞에서 수백 번 시연하고 다시 학습시키는 과정을 반복해야 한다. 이 간극을 메우려는 시도가 오픈소스 진영에서 빠르게 움직이고 있다.
Hugging Face가 7월 7일 공개한 LeRobot v0.6.0은 이 문제를 다른 각도에서 접근한다. 로봇이 행동하기 전에 ‘상상’하는 단계를 학습 루프 안에 집어넣은 것이다.
‘상상하는 정책’이 로봇 학습을 어떻게 바꾸나
이번 릴리스의 중심에는 월드 모델 정책(world model policy)이라는 개념이 있다. 쉽게 말하면 로봇이 어떤 행동을 하기 전에 그 결과를 머릿속으로 시뮬레이션하는 방식이다.
LeRobot v0.6.0에 포함된 VLA-JEPA, FastWAM, LingBot-VA 같은 정책 모델들이 바로 이 역할을 맡는다. 로봇이 눈앞의 컵을 잡기 전에 “이 방향으로 팔을 뻗으면 컵이 넘어질까?” 하는 예측을 미리 돌려보는 구조다. 이런 접근은 특히 물체가 불규칙하게 쌓여 있거나 조명이 바뀌는 실제 환경에서 오작동을 줄일 수 있는 가능성을 보여준다.
여기에 그치지 않고 새로운 VLA(Vision-Language-Action) 모델 여섯 종도 함께 추가됐다. GR00T N1.7, MolmoAct2, EO-1, EVO1, Multitask DiT 등이 대표적이다. 시각-언어-행동을 한 번에 처리하는 이 모델들은 “빨간 블록을 집어서 왼쪽 바구니에 넣어줘” 같은 복합 명령을 이해하고 실행하는 데 초점을 맞추고 있다.
보상 모델 API: 로봇의 성공을 판단하는 또 다른 AI
로봇이 임무를 제대로 수행했는지 사람이 일일이 확인하는 작업은 생각보다 큰 병목이다. 이 버전에서 처음 도입된 보상 모델 API가 이 지점을 파고든다.
Robometer와 TOPReward 같은 모델이 로봇의 작업 결과를 평가하고 점수를 매기는 역할을 한다. “컵을 집어 올렸는가” 같은 단순한 성공 여부부터 “경로가 효율적이었는가”까지 판단할 수 있다. 이 점수가 다시 학습 데이터로 환류되면서 사람의 개입 없이도 로봇이 점진적으로 개선되는 구조다.
배포 CLI 도구도 주목할 만하다. 로봇이 실제 환경에서 실패한 사례를 자동으로 훈련 데이터로 변환해주는 기능이다. 기존에는 실패 장면을 사람이 직접 레이블링해야 했지만, 이제는 CLI 명령 몇 줄로 데이터셋에 추가할 수 있게 됐다.
시뮬레이션 벤치마크 6종과 클라우드 훈련 지원
이론적으로만 가능한 이야기가 아니라 실제로 성능을 측정할 수 있는 환경도 함께 제공된다. LeRobot v0.6.0에는 6종의 시뮬레이션 벤치마크가 통합되어 있어, 새로운 정책이나 모델을 올렸을 때 어느 정도 개선이 일어나는지 바로 확인할 수 있다.
클라우드 훈련 지원도 눈에 띄는 변화다. Hugging Face Jobs를 통한 클라우드 학습이 가능해져서, 고사양 GPU가 없는 개인 개발자나 소규모 연구실도 무거운 모델을 돌릴 수 있는 길이 열렸다. 설치 과정도 훨씬 가벼워졌고, 깊이 센싱(depth sensing)과 VLM 기반 데이터셋 주석 기능도 추가됐다.
개발자 입장에서 생각해볼 시나리오
이 도구들이 실제 업무에 어떻게 녹아들 수 있을지 두 가지 시나리오로 정리해봤다.
첫째, 소규모 로봇 스타트업의 프로토타이핑이다. 새로운 매니퓰레이터를 테스트할 때 보상 모델 API로 기본적인 성공률을 자동 측정하고, 배포 CLI로 실패 데이터를 축적하는 파이프라인을 구축할 수 있다. 초기에는 사람이 시연한 50개 정도의 데이터로 시작해도 점진적으로 데이터셋이 불어나는 구조다.
둘째, 연구실 단위의 비교 실험이다. 6종의 벤치마크가 통일된 환경을 제공하기 때문에 다른 논문에서 제안된 정책과 자신의 모델을 같은 조건에서 비교하기 수월해진다. 클라우드 훈련 덕분에 GPU 자원이 부족한 대학원 연구실도 진입 장벽이 낮아진다.
현실적인 한계와 지켜볼 지점
물론 모든 문제가 해결된 것은 아니다. 월드 모델 정책은 아직 시뮬레이션 환경에서의 성과가 두드러지는 단계다. 실제 비정형 환경, 예를 들어 진동이 심한 공장 라인이나 야외에서는 상상 단계의 예측 정확도가 급격히 떨어질 수 있다.
보상 모델 API 역시 모델 자체가 편향될 가능성을 안고 있다. 로봇이 보상을 최대화하는 방향으로만 학습하다 보면 사람이 의도하지 않은 지름길을 찾아낼 위험은 여전히 남아 있다. 이것은 강화학습 분야에서 오래된 숙제이기도 하다.
LeRobot v0.6.0은 오픈소스 로봇 학습 생태계에서 분명 의미 있는 전환점이다. ‘상상-평가-개선’이라는 루프를 하나의 릴리스 안에 통합한 점, 그리고 클라우드 훈련으로 접근성을 대폭 낮춘 점은 앞으로 다른 프레임워크에도 영향을 줄 흐름으로 볼 수 있다. 다만 실제 산업 현장에 적용되기까지는 아직 검증이 더 필요한 단계다.
참고
- 원문 링크: https://huggingface.co/blog/lerobot-release-v060
- Hugging Face Blog 공식 자료와 AI Log 리서치 노트를 바탕으로 작성한 단일 출처 기반 초안입니다.
- 발행 전 원문 확인이 필요합니다.
