계층으로 나누는 전역 관계
전역 자기 어텐션의 큰 계산을 여러 수준의 어텐션으로 나눈다. 창 안의 자기 어텐션을 활용하면서 창 사이의 정보 교환을 별도 수준에서 처리한다.
전달 토큰의 역할
각 창은 지역 및 전역 표현 학습에 참여하는 전용 전달 토큰을 사용한다. 상위 수준의 전역 어텐션은 이 토큰들을 통해 창 사이의 통신 비용을 줄인다.
높은 처리량을 위한 평가
연구는 분류와 객체 검출 및 분할에서 정확도와 이미지 처리량을 비교했다. 높은 해상도의 입력과 기존 신경망에 계층적 어텐션을 추가하는 구성도 조사했다.
관련 문서
RegionViT / MaxViT / DaViT / CSWin Transformer / Next-ViT / EdgeViTs