두 수준의 표현
큰 이미지 패치마다 내부의 작은 영역들을 별도 특징으로 표현한다. 내부 트랜스포머는 같은 큰 패치에 속한 작은 단위들의 관계를 처리하고 외부 트랜스포머는 큰 패치 표현 사이의 관계를 처리한다.
내부 정보의 전달
내부 처리에서 얻은 특징을 외부 패치 표현에 결합한다. 패치 전체를 하나의 벡터로 바꾼 뒤 패치끼리만 비교하는 구성보다 내부 구조를 명시적으로 다룬다. 두 수준의 토큰이 같은 크기의 특징 벡터여야 하는 것은 아니다.
중첩 분할의 예
24×24 큰 패치를 6×6 작은 영역으로 나누면 내부 단위는 16개다. 큰 패치가 네 개이면 내부 단위는 총 64개지만 내부 주의는 각 큰 패치 안에서 따로 계산한다. 한 헤드의 내부 점수는 4×16²=1,024개이며 64개 전체의 주의 점수 4,096개와 다르다.
비용을 해석하기
이 독립 예제는 내부 점수만 센 것으로 외부 주의와 투영 비용을 포함하지 않는다. 내부 단위의 개수와 채널 크기를 늘리면 세부 표현과 비용이 함께 달라진다. 구조의 효과는 같은 데이터와 학습 조건의 정확도 및 실행 비용으로 확인한다.