마스크를 공유하기
일반적인 원소별 드롭아웃은 이웃한 위치에도 다른 마스크를 줄 수 있다. 공간 드롭아웃에서는 한 입력의 한 채널에 하나의 마스크를 공유한다. 채널 하나를 없앤다는 것은 그 채널 축을 삭제한다는 뜻이 아니라 값들을 0으로 만드는 것이다.
두 채널 예
두 채널의 공간 값이 각각 (1,2,3,4)와 (5,6,7,8)이라고 하자. 제거 확률 1/2인 역 드롭아웃에서 첫 채널만 유지된 한 시행은 (2,4,6,8)과 (0,0,0,0)을 낸다. 출력은 여전히 두 채널이다. 첫 채널의 일부 위치만 남는 마스크와 다르다.
확률과 실제 개수
채널 8개를 각각 확률 1/4로 제거하면 제거 개수의 기댓값은 2다. 매 시행에서 반드시 2개를 제거하도록 고르는 규칙은 아니다. 또한 채널 안의 네 값이 같은 마스크를 쓰면 그 네 위치의 제거 여부는 독립이 아니다.
사용할 때 구분하기
공간적으로 가까운 활성값의 연관성을 고려해 채널 단위 잡음을 줄 수 있다. 그러나 어떤 자료에서도 원소별 방식보다 낫다는 보장은 없다. 제거 확률, 채널 축 규약과 학습·추론 모드를 구분해야 하며, 학습이 끝난 뒤 필터를 영구히 삭제하는 가지치기와도 다르다.