큰 커널 연산의 분해
LKA는 가까운 공간을 처리하는 채널별 독립 합성곱과 넓은 범위의 확장 합성곱 및 채널을 결합하는 점별 합성곱을 사용한다. 큰 커널을 그대로 계산하는 부담을 줄이려는 구성이다.
특징별 중요도로 조정하기
연산 결과로 어텐션 맵을 만들고 입력 특징과 원소별로 곱한다. 토큰 쌍의 소프트맥스 어텐션과 달리 공간 및 채널의 중요도를 입력에 맞춰 반영하는 방식이다.
네 단계의 시각 백본
VAN은 공간 해상도를 점차 줄이고 채널 수를 늘리는 계층 구조를 사용한다. 연구는 이미지 분류와 여러 검출 및 분할 과제와 자세 추정에서 이 백본을 평가했다.