위키득계정 ↗
기술

RepViT

RepViT기술
연구 공개
2023년
발표
CVPR 2024
출발 구조
MobileNetV3
모형 종류
경량 합성곱 신경망
RepViT는 경량 비전 트랜스포머의 구조 선택을 모바일 합성곱 신경망에 적용한 모형 계열이다. MobileNetV3를 단계적으로 개선해 트랜스포머가 아닌 순수 경량 CNN으로 구성한다.

트랜스포머 관점의 CNN 설계

경량 ViT와 CNN 사이의 구조적 연결을 블록과 거시적 및 미시적 설계 수준에서 검토한다. 효율적인 ViT의 선택을 경량 CNN에 도입해 모바일 친화성을 개선한다.

순수 합성곱 모형 계열

표준 MobileNetV3에서 출발해 구조를 점진적으로 바꾼다. 이름에 ViT가 포함되지만 최종 RepViT는 순수한 경량 합성곱 신경망이라는 점이 특징이다.

분류와 분할의 활용

ImageNet의 분류 정확도와 기기 지연 시간을 평가했다. SAM과 결합한 RepViT-SAM도 제시해, 경량 시각 인코더를 분할 체계에 활용하는 가능성을 조사했다.

관련 문서

EfficientFormer / MobileViT / Mobile-Former / ConvNeXt / 합성곱 신경망 / SAM