위키득계정 ↗
기술

RAFT-Stereo

RAFT-Stereo기술
영문
Multilevel Recurrent Field Transforms for Stereo Matching
명칭
RAFT-Stereo
입력 조건
정렬된 스테레오 영상
주요 구성
다중 수준 합성곱 GRU
RAFT-Stereo는 정렬된 스테레오 영상에서 시차를 추정하는 반복 신경망이다. 광류 추정 방법 RAFT의 접근을 스테레오 대응에 맞추고 여러 수준의 합성곱 순환 모듈로 정보를 전달한다.

시차와 광류

일반적인 광류는 영상 평면의 두 방향 이동을 추정한다. 정렬된 스테레오에서는 대응점이 같은 행에 놓이도록 보정해 가로 시차를 다룰 수 있다. RAFT-Stereo는 이런 문제 구조를 활용하며 임의의 두 사진이 이미 정렬되어 있다는 뜻은 아니다.

반복과 정보 전달

현재 시차 추정을 반복해서 수정하고 여러 수준의 순환 모듈로 영상 안의 정보를 전달한다. 무늬가 적거나 가려진 곳은 가까운 특징만 비교하기 어려워 넓은 문맥이 중요할 수 있다. 반복 횟수와 해상도는 실행 비용과 결과에 영향을 준다.

시차 오차의 예

초점 거리와 기준선의 곱을 120화소·m로 두면 시차 20화소의 깊이는 6m다. 시차를 19화소로 추정하면 약 6.32m가 된다. 같은 1화소 오차라도 깊이 오차는 시차에 따라 달라진다. 이상적으로 보정된 카메라의 계산이며 실제 측정 조건은 별도로 확인해야 한다.

깊이로 사용할 때

네트워크가 출력한 시차를 거리로 변환하려면 카메라 보정과 기준선 정보가 필요하다. 정렬 오차와 렌즈 왜곡도 결과에 영향을 줄 수 있다. 시차의 화소 오차와 최종 거리 오차를 나누어 보고 가림 및 물체 경계에서의 추정도 확인한다.

관련 문서

IGEV-Stereo / RAFT 광류 추정 / MVSNeRF / DUSt3R / GMFlow / PWC-Net