연산량과 속도의 구분
작은 연산 복잡도가 모바일에서 빠른 실행을 자동으로 보장하지는 않는다. 원 연구는 비전 트랜스포머의 구조와 연산자를 다시 살펴 비효율적인 설계를 찾았다.
차원이 일관된 구성
MobileNet 블록을 결합하는 대신 차원 일관성을 갖는 순수 트랜스포머 설계를 제안했다. 이후 실제 지연 시간을 기준으로 구조를 줄여 EfficientFormer 계열을 구성했다.
모바일 환경의 평가
ImageNet 분류와 모바일 추론 속도를 비교했다. 논문의 지연 시간은 iPhone 12에서 CoreML로 컴파일한 조건의 결과로, 모형 이름만으로 모든 기기의 속도를 알 수는 없다.
관련 문서
RepViT / MobileViT / Mobile-Former / 비전 트랜스포머 / Hiera 시각 트랜스포머 / HiViT