세 축의 균형
층 수만 늘리는 깊이 확장, 채널을 늘리는 폭 확장, 더 큰 이미지를 넣는 해상도 확장은 서로 다른 효과를 낸다. EfficientNet은 한 축만 무작정 키우기보다 이 세 축의 비율을 함께 정한다. 기준 구조는 신경망 구조 탐색으로 설계한다.
복합 계수
확장 정도 φ에 대해 깊이 α^φ, 폭 β^φ, 해상도 γ^φ의 배율을 적용한다. 대표 비용 근사에서는 αβ²γ²가 약 2가 되도록 계수를 조절해 φ를 늘릴 때 계산량이 대략 배가되게 한다. 실제 모형은 층과 채널의 정수 반올림도 필요하다.
계산량의 간단한 근사
같은 종류의 합성곱을 가정하면 비용은 대략 깊이 배율×폭 배율²×해상도 배율²에 비례한다. 깊이를 두 배로 하면 약 두 배지만 폭을 두 배로 하면 입출력 채널이 함께 늘어 약 네 배다. 세 축을 모두 두 배로 하는 단순 예는 2×4×4=32배다.
효율의 평가
모형 계열의 크기와 정확도를 비교할 때 입력 해상도와 평가 조건을 함께 본다. 연산량 감소가 실제 장치의 지연시간 감소와 정확히 같은 비율은 아니다. 활성 메모리, 배치 크기, 지원 연산을 포함해 비용을 확인하고 후속 과제에서 필요한 크기의 모형을 선택한다.
관련 문서
MobileNet / MobileNetV2 / 합성곱 신경망 / 신경망 구조 탐색 / 전이 학습 / GhostNet