양방향 토큰 예측
이미지를 줄별 순서로 하나씩 생성하는 방식 대신 가려진 토큰을 주변의 모든 방향에서 추론하도록 학습한다. 양방향 트랜스포머 디코더로 무작위 마스킹 예측을 수행한다.
동시 생성과 정제
추론에서는 모든 이미지 토큰을 동시에 생성하는 과정으로 시작한다. 이후 직전 생성 결과를 조건으로 삼아 이미지를 반복적으로 다듬는 방식이다.
생성과 편집의 평가
ImageNet에서 생성 품질과 자기회귀 디코딩에 대한 속도를 비교했다. 원 연구는 인페인팅과 이미지 바깥 확장 및 조작 같은 편집 과제로의 활용도 제시했다.
관련 문서
VQGAN / VQ-VAE / 유한 스칼라 양자화 / 비전 트랜스포머 / 마스크드 오토인코더 / 생성 모델