위키득계정 ↗
기술

ConceptFusion

ConceptFusion기술
발표
RSS 2023
지도 성격
개방형 다중 모달
질의
언어, 이미지, 음성, 삼차원 기하
융합 기반
픽셀 정렬 특징과 SLAM 및 다중 뷰
ConceptFusion은 언어와 이미지 및 음성 등으로 질의할 수 있는 개방형 삼차원 지도 표현이다. 사전 학습한 기반 모델의 특징을 공간 지도에 융합해 정해진 범주 밖의 개념도 찾으려 한다.

고정 범주를 넘는 검색

전통적인 의미 지도는 학습 때 정한 물체 범주에 묶이기 쉽다. ConceptFusion은 인터넷 규모 자료로 학습한 기반 모델의 표현을 활용해 그 범위를 넓힌다.

특징을 공간에 누적하기

픽셀에 정렬된 개방형 특징을 SLAM과 다중 시점 융합으로 삼차원 지도에 결합한다. 표현의 의미 정보가 물리적 위치와 이어져 공간적 질의에 사용된다.

여러 형태의 질의

텍스트 이름만이 아니라 이미지와 음성 및 기하 정보로도 지도를 질의하는 구성을 제시했다. 입력 형태가 달라도 같은 장면 표현을 활용한다는 점이 핵심이다.

추가 학습 없는 평가

논문은 추가 훈련이나 미세 조정 없는 공간 추론을 실제 자료와 가상 가정 및 로봇 조작 등에서 평가했다. 이는 기반 모델의 사전 학습이나 지도 복원 절차도 불필요하다는 뜻은 아니다.

관련 문서

VLMaps / SLAM / 다중 모달 / 점군 / 시각 언어 모델 / HomeRobot