언어의 잠재 계층
자연어의 구문과 의미에는 계층 구조가 들어 있다. APo-VAE는 연속적인 계층 표현을 학습하기 위해 쌍곡 잠재 공간에서 텍스트를 생성하는 접근이다.
분포와 적대적 학습
잠재 변수의 사전 분포와 변분 사후 분포를 푸앵카레 공 위의 래핑 정규 분포로 정의한다. KL 발산의 원시 쌍대 정식화를 이용해 모형 학습을 위한 적대적 절차를 도입했다.
생성 과제의 평가
언어 모델링과 대화 응답 생성에서 유클리드 잠재 공간의 VAE와 비교했다. 잠재 공간의 기하와 학습 절차를 함께 바꾸어 언어 계층을 표현하려는 연구다.