위키득계정 ↗
기술

D-NeRF

D-NeRF기술
영문
Neural Radiance Fields for Dynamic Scenes
명칭
D-NeRF
추가 입력
시간
핵심 구성
기준 공간과 변형 표현
D-NeRF는 시간에 따라 움직이는 장면을 표현하도록 신경 방사장을 확장한 방법이다. 기준 공간의 표현과 시간별 변형을 함께 학습해 카메라 시점과 시간을 바꾸며 영상을 합성한다.

정적인 표현의 한계

같은 공간 위치가 여러 사진에서 같은 물체 부분을 나타낸다는 가정은 물체가 움직이면 성립하기 어렵다. D-NeRF는 시간에 따른 변형을 별도로 다룬다. 기준 공간은 여러 순간의 정보를 연결하기 위한 표현이며 물체의 실제 초기 모양과 반드시 같은 뜻은 아니다.

좌표 변형의 예

어떤 점이 시간 t에 관측 좌표 x=t+2에 있다고 하자. 기준 좌표를 x−t로 정하면 모든 순간에 2로 대응한다. 이는 일정한 평행이동을 제거하는 예다. 실제 장면에서는 회전이나 관절 운동 및 비강체 변형이 함께 나타날 수 있다.

영상으로 함께 학습하기

기준 표현과 변형은 완전 연결 신경망을 사용해 함께 학습한다. 한 대의 움직이는 카메라로 얻은 장면도 대상으로 삼지만 사진 한 장만으로 모든 시간과 방향의 움직임을 알아낸다는 의미는 아니다. 입력 영상의 시간 정보와 카메라 조건이 중요하다.

시점과 시간의 분리

카메라를 고정하고 시간만 바꾸는 결과와 시간을 고정하고 카메라만 바꾸는 결과는 다르다. 두 경우를 따로 보면 움직임과 공간 복원이 각각 일관적인지 살펴볼 수 있다. 관측되지 않은 시간의 결과는 실제로 촬영한 증거와 구분해야 한다.

관련 문서

NeRF / Nerfies / HexPlane / K-Planes / SIREN / VolSDF