위키득계정 ↗
기술

MASt3R

MASt3R기술
영문
Grounding Image Matching in 3D with MASt3R
명칭
MASt3R
추가 표현
조밀한 국소 특징
주요 과정
포인트맵 예측과 상호 매칭
MASt3R는 3차원 포인트맵 예측에 조밀한 국소 특징을 결합해 영상 사이의 대응을 찾는 방법이다. DUSt3R의 기하 복원 틀을 확장하고 빠른 상호 대응 탐색으로 조밀한 매칭의 비용을 줄인다.

기하와 영상 대응

서로 다른 사진에서 같은 물체 부분을 찾는 일은 두 영상의 화소를 연결하는 문제이지만 카메라 자세와 장면의 3차원 구조에도 관련된다. MASt3R는 대응을 순수한 2차원 무늬 비교로만 다루지 않고 기하 복원과 결합한다.

국소 특징의 추가

포인트맵을 예측하는 네트워크에 조밀한 국소 특징을 내는 헤드를 더하고 대응 손실로 학습한다. 큰 시점 변화에 대한 견고함을 유지하면서 대응의 정확도를 개선하려는 구성이다. 포인트맵의 좌표 거리와 학습된 특징의 유사도는 서로 다른 정보다.

상호 대응의 예

첫 영상의 점 A가 두 번째 영상의 B를 가장 가깝게 고르고, B도 첫 영상에서 A를 고르면 상호 대응이다. 반대로 B가 C를 고른다면 같은 조건을 만족하지 않는다. 이 예는 상호 선택의 의미이며 논문의 빠른 탐색 절차 전체를 나타내지는 않는다.

조밀한 탐색의 비용

각 영상에 특징이 1,000개씩 있다면 모든 쌍의 비교는 1,000,000개가 된다. 실제 조밀한 영상에서는 비용이 더 커질 수 있어 탐색 방식이 중요하다. 최종 결과에서는 대응 수뿐 아니라 잘못된 대응 비율과 시점 변화에 대한 안정성, 실행 비용을 함께 확인한다.

관련 문서

DUSt3R / MVSNeRF / IBRNet / BARF / 트랜스포머 / NeRF