트랜스포머 관점의 CNN 설계
경량 ViT와 CNN 사이의 구조적 연결을 블록과 거시적 및 미시적 설계 수준에서 검토한다. 효율적인 ViT의 선택을 경량 CNN에 도입해 모바일 친화성을 개선한다.
순수 합성곱 모형 계열
표준 MobileNetV3에서 출발해 구조를 점진적으로 바꾼다. 이름에 ViT가 포함되지만 최종 RepViT는 순수한 경량 합성곱 신경망이라는 점이 특징이다.
분류와 분할의 활용
ImageNet의 분류 정확도와 기기 지연 시간을 평가했다. SAM과 결합한 RepViT-SAM도 제시해, 경량 시각 인코더를 분할 체계에 활용하는 가능성을 조사했다.
관련 문서
EfficientFormer / MobileViT / Mobile-Former / ConvNeXt / 합성곱 신경망 / SAM