위키득계정 ↗
기술

OpenMask3D

OpenMask3D기술
발표
NeurIPS 2023
목표
개방형 삼차원 인스턴스 분할
특징 구성
마스크별 다중 뷰 융합
평가
ScanNet200과 Replica
OpenMask3D는 고정된 범주 목록을 넘어 자연어로 삼차원 물체 개체를 찾는 분할 방법이다. 범주에 독립적인 마스크 제안과 여러 시점의 CLIP 영상 특징을 결합한다.

범주와 개체의 차이

장면에서 의자에 해당하는 점을 모두 찾는 것과 의자들을 하나씩 구별하는 것은 다른 과제다. OpenMask3D는 개방형 의미 검색을 개별 물체 마스크로 연결하는 문제를 다룬다.

마스크에 모은 특징

먼저 예측한 범주 독립적 삼차원 개체 마스크를 이용한다. 여러 시점의 CLIP 이미지 임베딩을 마스크별로 모아 질의 가능한 물체 표현을 만든다.

드문 개념의 평가

연구는 ScanNet200과 Replica에서 다른 개방형 방법과 비교했다. 특히 드물게 나타나는 범주의 성능을 살폈으며, 학습에 자주 등장한 개념만 보는 평가와 구별된다.

속성을 묻는 질의

정성 실험에는 기하와 사용 가능성 및 재질을 설명하는 자유로운 질의도 포함됐다. 이런 질의의 가능성과 모든 물체 속성을 정확히 인식한다는 보장은 다르다.

관련 문서

Open3DIS / OpenScene / 인스턴스 분할 / CLIP / ConceptFusion / 점군