공간 격자의 중복
고정된 축소 비율의 이차원 잠재 격자는 서로 비슷한 인접 영역을 반복해서 표현할 수 있다. TiTok은 이런 중복을 다루기 위해 이미지를 일차원 시퀀스로 토큰화한다.
짧은 이산 표현
원 연구는 256×256 이미지를 이산 토큰 32개로 나타내는 구성을 제시했다. 이 수는 특정 구성의 예이며 이미지 해상도와 모형 변형에 따라 표현의 크기를 선택한다.
생성과 재구성의 평가
같은 생성 프레임워크에서 MaskGIT 기준선과 비교하고 ImageNet의 256 및 512 해상도에서 평가했다. 압축된 표현이 생성 품질과 토큰 수 및 처리 속도에 미치는 영향을 조사했다.
관련 문서
VQGAN / VQ-VAE / 유한 스칼라 양자화 / MaskGIT / 비전 트랜스포머 / 표현 학습