위키득계정 ↗
기술

매우 깊은 계층형 VAE

매우 깊은 계층형 VAE기술
연구 공개
2020년
원제
Very Deep VAEs Generalize Autoregressive Models
확장 요소
확률적 잠재 깊이
평가 자료
CIFAR-10 ImageNet FFHQ
매우 깊은 계층형 VAE 연구는 확률적 잠재 층의 깊이를 크게 늘려 이미지 생성 모형의 표현력을 조사했다. 충분한 깊이의 VAE가 자기회귀 모형을 표현할 수 있다는 관찰에서 출발한다.

깊이와 표현 능력

이론적으로 충분히 깊은 VAE는 자기회귀 모형도 표현할 수 있다. 이 연구는 VAE의 기존 우도 성능 차이가 확률적 깊이의 부족과 관련되는지 조사했다.

잠재 계층의 확장

이전에 탐구한 범위보다 더 깊은 확률적 계층으로 모형을 확장했다. CIFAR-10과 ImageNet 및 FFHQ에서 생성 모형을 학습하고 PixelCNN과 비교했다.

우도와 생성의 평가

평가한 설정에서 우도와 파라미터 수 및 표본 생성 속도를 함께 비교했다. 계층적 시각 표현이 이런 결과와 어떻게 연결되는지도 정성적으로 분석했다.

관련 문서

NVAE / Ladder VAE / VampPrior / 변분 오토인코더 / 자기회귀 모델 / 생성 모델