서로 다른 두 축
C×H×W 특징에서 채널 게이트는 C×1×1 크기로 공간 전체에 공유된다. 공간 게이트는 1×H×W 크기로 모든 채널에 공유된다. 각 채널과 각 위치의 반응을 서로 다른 축에서 조절하는 방식이며 처음부터 모든 원소에 독립적인 게이트를 만드는 구성과는 다르다.
요약에서 지도를 만들기
채널 부분은 공간 평균과 공간 최댓값으로 얻은 두 요약을 공유하는 작은 신경망에 통과시켜 게이트를 만든다. 이어서 채널 조절을 마친 특징을 채널 방향 평균과 최댓값으로 요약하고 공간 합성곱 등으로 위치별 게이트를 구한다. 기본 구성에서 두 게이트를 계산하는 순서가 중요하다.
두 단계의 곱셈 예제
두 채널의 공간 값이 각각 (2,4), (6,8)이라고 하자. 채널 게이트가 (0.5,0.25)이면 중간 특징은 (1,2), (1.5,2)다. 이 중간 특징으로 얻은 공간 게이트가 (0.2,0.8)이라고 가정하면 최종 특징은 (0.2,1.6), (0.3,1.6)이 된다. 게이트를 구하는 학습 함수와 게이트를 곱하는 계산은 구별한다.
지도 해석의 범위
게이트 지도는 모형이 특징을 조절하는 내부 수치다. 특정 위치의 게이트가 크다는 이유만으로 그 위치가 실제 예측 원인이라는 인과적 설명이 완성되지는 않는다. 추가 모듈의 효과와 계산 비용은 모형과 과제에 따라 평가한다. SE 블록처럼 채널만 조절하는 구성과도 비교할 수 있다.