위키득계정 ↗
기술

정규화 흐름 변분 추론

정규화 흐름 변분 추론기술
연구 공개
2015년
발표
ICML 2015
핵심 연산
가역 변환의 연속 적용
분류
유한 흐름과 무한소 흐름
정규화 흐름 변분 추론 연구는 단순한 초기 분포에 가역 변환을 차례로 적용해 복잡한 근사 사후를 만든다. 효율적인 변분 추론에서 사용할 수 있는 분포의 표현력을 높이는 접근이다.

근사 사후의 제약

변분 추론에서는 계산의 효율을 위해 평균장 같은 단순한 사후 근사를 사용한다. 분포의 모양을 제한하면 추론 결과의 품질에도 영향을 줄 수 있다.

분포를 바꾸는 가역 변환

정규화 흐름은 단순한 초기 밀도에서 출발해 가역 변환을 여러 번 적용한다. 원하는 복잡성까지 분포를 변형해 더 유연한 근사 사후를 구성한다.

흐름과 추론의 결합

원 연구는 유한 흐름과 무한소 흐름을 구분하며 풍부한 사후 근사를 만드는 접근을 통합적으로 설명했다. 실제 사후에 가까운 분포와 학습된 추론 모형의 확장성을 결합하는 효과를 평가했다.

관련 문서

변분 오토인코더 / 변분 추론 / 리만 흐름 텍스트 오토인코더 / IWAE / 확률 분포 / 잠재 변수