시각 생성으로의 확장
일반적인 자기회귀 모형을 적절히 확장하면 이미지 생성에도 활용할 수 있는지 조사한다. 이미지 토크나이저의 설계와 모형의 확장 성질 및 학습 자료 품질을 검토했다.
클래스와 텍스트 조건
클래스 조건 생성은 약 1억 1100만 개에서 31억 개까지의 파라미터 규모로 평가했다. 텍스트 조건 모형은 LAION-COCO와 미적 품질이 높은 이미지의 두 단계 학습을 사용했다.
토큰화와 추론의 평가
원 연구는 ImageNet에서 재구성 품질과 코드북 사용률 및 생성 품질을 평가했다. 언어 모형 서빙 프레임워크를 이미지 생성의 추론 속도 최적화에 사용하는 효과도 조사했다.
관련 문서
VAR 다음 규모 예측 / RAR 무작위 자기회귀 생성 / VQGAN / MaskGIT / 자기회귀 모델 / 비전 트랜스포머