잔차 연결과 메모리 접근
RepMixer는 구조적 재매개변수화로 네트워크의 스킵 연결을 제거해 메모리 접근 비용을 줄인다. 학습 때의 구성과 실행 때의 구조를 구분해 효율을 다루는 방식이다.
정확도를 위한 학습 구성
학습 시 과매개변수화와 큰 커널 합성곱을 적용한다. 원 연구는 이 선택이 정확도에 주는 효과와 추론 지연에 미치는 영향을 함께 비교했다.
여러 시각 과제의 평가
분류와 탐지 및 분할, 3차원 메시 회귀에서 실험했다. 모바일 기기와 데스크톱 GPU를 함께 평가하고 분포 밖 자료와 손상 자료에 대한 강건성도 조사했다.
관련 문서
EfficientViT 연쇄 그룹 어텐션 / EfficientFormer / RepViT / ConvNeXt / RepLKNet / 비전 트랜스포머