벡터 양자화의 단순화
VQ-VAE의 벡터 양자화 대신 표현을 보통 열 개보다 적은 차원으로 투영한다. 각 차원을 작은 고정 값 집합에 대응시켜 전체 조합을 코드로 사용한다.
코드북 크기의 구성
차원 수와 각 차원이 취할 값의 수를 고르면 원하는 코드북 크기를 구성할 수 있다. 학습형 코드북의 붕괴를 다루기 위한 재초기화나 코드 분할 같은 절차를 줄이는 것이 설계의 특징이다.
이산 표현의 활용
MaskGIT 이미지 생성과 UViM의 깊이 추정 및 색상화와 파놉틱 분할에 적용했다. 기존 VQ 표현 위에 학습하던 생성 및 예측 모형에 단순한 FSQ 표현을 사용해 성능을 비교했다.