설계의 출발점
ResNet의 구성 요소를 단계적으로 바꾸면서 학습 방식과 구조의 영향을 비교한다. 주의 연산을 추가하는 대신 단계별 계산 배분, 병목 구조와 합성곱 커널 등을 조절한다. 이미지 분류뿐 아니라 검출과 분할의 특징 추출기로 사용할 수 있다.
공간과 채널 계산
대표 블록에서는 7×7 깊이별 합성곱이 각 채널의 공간 정보를 처리하고 1×1 연산들이 채널 정보를 변환한다. 역병목, 층 정규화, GELU를 사용하며 다운샘플링을 별도 층으로 분리한다.
가중치 수의 독립 예제
입출력 채널이 각각 32인 7×7 일반 합성곱은 편향을 빼면 가중치가 49×32×32=50,176개다. 채널당 커널 하나인 깊이별 합성곱은 49×32=1,568개다. 그러나 뒤에 채널 변환 연산이 추가되므로 이 비율을 블록 전체의 절감률로 해석하면 안 된다.
비교 조건
구조의 성능을 비교할 때 학습 기간, 데이터 증강과 사전 학습 데이터가 같은지 확인한다. 더 나은 학습 절차가 만든 차이를 구조 자체의 효과로 혼동하지 않아야 한다. 입력 크기와 실행 장치별 지연시간도 별도로 측정한다.
관련 문서
RepVGG / EfficientNet / 합성곱 신경망 / ResNet / 층 정규화 / GELU