위키득계정 ↗
기술

전역 평균 풀링

전역 평균 풀링기술
영문명
Global average pooling
축약하는 축
공간 축
남는 정보
채널별 평균값
대표 출력
입력별 채널 벡터
전역 평균 풀링은 특징 지도의 공간 위치 전체를 평균내어 채널마다 하나의 값으로 만드는 연산이다. 작은 창을 옮기는 평균 풀링과 달리 공간 영역 전체를 한 번에 요약한다. 배치의 서로 다른 입력이나 채널을 함께 평균내는 것은 아니다.

채널 하나를 값 하나로

높이 H, 너비 W인 채널 c의 출력은 공간 값들의 합을 HW로 나눈 값이다. 입력이 배치·높이·너비·채널 순서라면 일반적인 출력은 배치·채널 형태다. 공간 축을 길이 1로 유지하는 설정도 가능하다.

두 채널 예

첫 채널의 2×2 값이 (1,3,5,7), 두 번째 채널이 (2,2,6,10)이면 출력은 (4,5)다. 전체 여덟 값을 평균낸 4.5 하나를 내는 것이 아니다. 같은 연산을 다른 입력에도 각각 독립적으로 적용한다.

펼치기와 매개변수 수

4×4×8의 특징을 펼치면 128개 값이다. 이를 출력 10개인 완전연결 층에 넣으면 편향을 포함해 1290개 매개변수가 필요하다. 전역 평균 풀링 뒤에는 8개 값이 남아 같은 형태의 층에 90개가 필요하다. 이는 해당 두 구성만 비교한 수치이며 신경망 전체의 크기를 뜻하지 않는다.

위치 요약의 대가

한 채널 안에서 값들의 위치를 서로 바꾸어도 평균은 같다. 따라서 이 연산만으로 어느 위치에서 큰 값이 나왔는지 복원할 수 없다. 또한 앞선 특징 추출기까지 모든 이미지 이동에 불변이라는 뜻은 아니다. 경계 처리와 특징 추출 과정이 달라지면 최종 평균도 달라질 수 있다.

관련 문서

평균 풀링 / 최대 풀링 / 인공 신경망 / 합성곱 / 활성화 함수 / 배치 정규화