패치 격자에서 계산하기
처음에 패치 크기와 보폭이 같은 합성곱으로 이미지를 특징 격자로 변환한다. 이후 반복 블록에서는 공간 해상도와 채널 폭을 유지한다. 단계마다 해상도를 줄이는 피라미드형 합성곱 신경망과 다른 설계다.
두 가지 혼합
깊이별 합성곱이 채널마다 공간 정보를 섞고 이어지는 1×1 합성곱이 같은 위치의 채널들을 섞는다. 깊이별 부분에는 잔차 연결이 있다. 주의 가중치를 계산하는 대신 합성곱으로 이 두 역할을 구현한다.
패치 수의 독립 예제
한 변 96인 이미지를 6×6 패치로 나누면 16×16 격자가 된다. 패치를 12×12로 바꾸면 8×8 격자여서 위치 수는 256개에서 64개로 줄어든다. 반복부의 공간 크기는 달라지지만 이 계산만으로 정확도 변화나 전체 속도 비율을 알 수는 없다.
평가할 요소
패치 크기, 깊이, 채널 폭과 공간 커널 크기가 비용과 표현력을 바꾼다. 같은 매개변수 수의 모형도 실제 실행 속도가 같지는 않다. 패치 표현의 역할을 비교하려면 데이터와 학습 방식도 통제해야 하며 주의 연산이 모든 과제에서 불필요하다는 결론은 별개다.