위키득계정 ↗
기술

LIV 로봇 시각 보상

LIV 로봇 시각 보상기술
이름
Language-Image Value learning
학습 자료
텍스트 주석을 가진 행동 비주석 영상
목표 지정
언어 또는 이미지
적응
같은 목적의 도메인별 미세 조정
LIV는 언어 또는 이미지로 지정한 목표에 대한 시각 표현과 보상을 함께 학습하는 방법이다. 행동 주석 없이 텍스트가 붙은 동영상으로 학습하고, 후속 영상의 각 프레임에 목표 관련 보상을 부여한다.

언어와 영상의 가치 표현

문장과 이미지가 대응한다는 사실만으로 목표 달성의 진행 정도가 정해지지는 않는다. LIV는 시각·언어 표현과 가치 함수 학습을 하나의 목적으로 연결한다.

목표 조건의 조밀한 보상

언어나 이미지로 목표를 주면 해당 작업을 시도하는 영상의 각 프레임에 보상을 부여한다. 사람이 수행한 영상과 보지 못한 로봇·환경의 영상으로 활용 범위를 조사했다.

사전 학습과 미세 조정

사람 동영상으로 사전 학습한 뒤 목표 도메인의 자료가 있다면 같은 목적을 사용해 미세 조정한다. 표현 학습과 보상 지정에 공통된 학습 틀을 사용하는 방식이다.

보상과 성공의 관계

높은 보상이 실제 작업 성공을 항상 보장하지는 않는다. 언어 목표와 관측의 일치, 시간별 보상 변화 및 후속 제어의 성공을 따로 평가해야 한다.

관련 문서

VIP 시각 보상 학습 / R3M / EPIC-KITCHENS-100 / EgoBridge / 강화 학습 / 대조 학습