토큰 단위의 계산 종료
이미지의 복잡도와 공간 정보의 중요도에 따라 필요한 계산이 다를 수 있다. A-ViT는 추론이 진행되는 동안 중복된 공간 토큰의 처리를 끝내어 처리 토큰 수를 줄인다.
추가 종료망 없이 학습하기
종료를 위해 별도 매개변수나 부분 신경망을 추가하지 않고 원래 신경망의 매개변수를 활용한다. 적응적 계산 시간을 토큰 제거 문제로 다시 구성한 접근이다.
종료 분포의 안정화
분포에 대한 사전 정규화로 학습을 안정화하는 구성을 제안했다. 연구는 ImageNet의 이미지 분류에서 정보 선택과 계산량 및 처리량을 평가했다.
관련 문서
DynamicViT / EViT 토큰 재구성 / ToMe 토큰 병합 / TokenLearner / TR-BERT / LTP 토큰 가지치기