지역과 전역의 두 축
지역 블록 안에서 관계를 처리하는 어텐션과 더 넓은 공간에 분산된 위치를 연결하는 전역 어텐션을 결합한다. 이미지 해상도가 커질 때 전역 자기 어텐션의 계산 부담이 커지는 문제에 대응한다.
합성곱과 계층적 반복
다중 축 어텐션을 합성곱과 섞은 기본 블록을 여러 단계에 반복한다. 높은 해상도를 다루는 초기 단계에서도 전역 공간 관계가 전달되도록 하는 설계다.
백본과 생성 모형의 활용
연구는 이미지 분류와 객체 검출 및 시각적 미적 평가에서 모형을 조사했다. 또한 ImageNet의 생성 모형 실험으로 MaxViT 블록을 인식 외의 구성 요소로 사용하는 가능성도 평가했다.
관련 문서
RegionViT / Swin Transformer / CSWin Transformer / CoAtNet / UniNet 혼합 구조 탐색 / BossNAS