위키득계정 ↗
기술

MambaVision

MambaVision기술
연구 공개
2024년
발표
CVPR 2025
구조
Mamba와 트랜스포머의 혼합
어텐션 배치
뒤쪽 층의 자기 어텐션
MambaVision은 Mamba 계열 연산과 자기 어텐션을 함께 사용하는 계층적 시각 백본이다. 시각 특징에 맞게 상태 공간 구성을 바꾸고 뒤쪽 층의 어텐션으로 먼 공간 관계의 처리를 보완한다.

시각 특징에 맞춘 혼합

시각 정보를 효율적으로 다루도록 Mamba의 구성을 다시 설계한다. 상태 공간 연산과 비전 트랜스포머를 함께 사용하는 것이 가능한지 구성 요소별 제거 실험으로 조사했다.

마지막 층의 어텐션

뒤쪽 층에 자기 어텐션 블록을 넣어 장거리 공간 의존성의 모델링을 보완한다. 이를 바탕으로 여러 설계 요구에 대응하는 계층적 모형 계열을 만든다.

백본으로서의 평가

연구는 ImageNet 분류에서 정확도와 처리량을 비교했다. 또한 COCO와 ADE20K의 객체 검출 및 인스턴스 분할과 의미 분할에서 후속 과제의 성능을 평가했다.

관련 문서

VMamba / EfficientViM / FasterViT / Next-ViT / MaxViT / DaViT