확률적인 인코더와 디코더
인코더는 관측 자료가 주어졌을 때 가능한 잠재 코드의 분포를 만든다. 디코더는 잠재 코드가 주어졌을 때 가능한 자료의 분포를 나타내며 두 모형의 파라미터를 함께 학습한다.
하한을 이용한 학습
주변 우도나 실제 사후 분포를 직접 계산하기 어려울 때 근사 사후를 사용한다. 자료의 로그 우도에 대한 변분 하한을 최적화하며, 하한은 재구성과 사전 분포에 대한 KL 항으로 나타낼 수 있다.
재매개변수화
잠재 표본을 보조 잡음과 미분 가능한 변환으로 표현해 경사를 계산한다. 이를 통해 확률적 경사 방법으로 학습하고, 학습한 추론 모형을 새로운 자료의 표현과 근사 추론에 활용한다.
관련 문서
S-VAE / 바서슈타인 오토인코더 / 적대적 오토인코더 / 확률적 역전파 연구 / 잠재 변수 / 변분 추론