위키득계정 ↗
기술

VLFM

VLFM기술
발표
2023년
이름
Vision-Language Frontier Maps
관측
깊이와 RGB
실제 실험
Spot의 사무실 물체 탐색
VLFM은 깊이로 만든 지도에서 탐사 경계를 찾고 시각 언어 모델의 가치 지도에 따라 다음 탐색 위치를 고르는 방법이다. 새 환경에서 물체 범주를 찾는 추가 학습 없는 이동을 연구한다.

기하 지도와 탐사 경계

깊이 관측으로 점유 지도를 구성해 이미 본 공간과 아직 탐사하지 않은 지역 사이의 경계를 찾는다. 다음에 갈 후보는 이런 프런티어를 기반으로 정한다.

언어에 연결된 가치 지도

RGB 관측과 사전 학습 시각 언어 모델로 가치 지도를 만든다. 목표 범주의 개체를 찾는 데 가장 유망한 경계를 이 지도로 선택한다.

시뮬레이션의 평가

논문은 Habitat 안의 Gibson과 HM3D 및 MP3D에서 물체 목표 이동을 평가했다. SPL처럼 경로 효율을 반영한 지표와 단순 성공률은 구별해야 한다.

실제 배치와 사전 학습

실제 실험에서는 사전 환경 지식 없이 사무실에서 목표를 찾는 모습을 제시했다. 추가 이동 학습이 없다는 조건과 시각 언어 모델의 사전 학습을 사용한다는 사실은 함께 이해해야 한다.

관련 문서

ObjectNav / PONI / ESC 물체 탐색 / VLMaps / SPL 이동 평가 지표 / Habitat