목적과 추론 품질의 차이
생성 모형과 함께 학습한 추론 분포가 실제 사후를 부정확하게 근사할 수 있다. 원 연구는 일부 조건에서 기존 목적을 개선하는 일이 오히려 추론 품질을 떨어뜨리는 현상을 분석했다.
잠재 변수를 쓰는 학습
디코더가 지나치게 유연하면 VAE가 잠재 변수를 무시하는 문제도 다룬다. InfoVAE는 이런 현상의 원인을 학습 기준에서 찾고 이를 완화하는 목적함수 계열을 제안한다.
표현과 추론의 평가
원 연구는 변분 사후의 품질과 잠재 특징을 사용하는 정도를 정성적 및 정량적으로 평가했다. 생성 결과뿐 아니라 모형이 학습한 추론과 표현도 함께 보는 접근이다.
관련 문서
변분 오토인코더 / 변분 하한과 경사 신호의 상충 / 구면 잠재 공간의 VAE 안정화 / IWAE / 바서슈타인 오토인코더 / 잠재 변수