구면 분포의 계산 문제
폰 미제스 피셔 분포는 초구면 자료에 쓰이지만 거절 표본 추출이 재매개변수화 기반 역전파를 어렵게 할 수 있다. 높은 집중도나 높은 차원에서는 수치 불안정성도 생길 수 있다.
보존하는 성질
Power Spherical은 초구면 위에 정의되고 평균 방향 파라미터에 대해 대칭인 성질을 유지한다. 다른 폰 미제스 피셔 분포로부터의 KL 발산을 알 수 있다는 성질도 포함하면서 확장성과 안정성을 개선하려는 분포다.
확률 모형에서의 평가
수치 실험으로 안정성을 확인하고 MNIST로 학습하는 변분 오토인코더에 적용했다. 잠재 공간의 기하뿐 아니라 그 공간에서 사용할 분포의 계산 가능성을 함께 다루는 연구다.
관련 문서
S-VAE / 구면 코시 변분 오토인코더 / 구면 잠재 공간의 VAE 안정화 / 확률 분포 / 변분 오토인코더 / 잠재 변수