위키득계정 ↗
기술

UMNN

UMNN기술
연구 공개
2019년
발표
NeurIPS 2019
단조성 조건
엄격히 양수인 도함수
흐름 구성
UMNN-MAF
UMNN은 도함수가 양수라는 성질을 이용해 단조 변환을 구성하는 신경망이다. 출력의 양수성만 제약하는 자유로운 신경망으로 변환을 정의해 자기회귀 흐름과 변분 추론에 활용한다.

단조 변환의 구조 제약

단조 신경망은 가역 변환을 만드는 데 쓰이지만 가중치와 활성 함수의 제약이 표현력을 제한할 수 있다. UMNN은 도함수의 양수성으로 단조성을 확보하는 접근이다.

출력에 두는 제약

도함수를 나타내는 신경망은 자유로운 구조로 두고 출력이 양수가 되도록 한다. 내부 구성에 넓은 제약을 두지 않으면서도 단조 변환을 만드는 것이 설계의 핵심이다.

흐름과 변분 추론

새 구성 요소를 자기회귀 흐름인 UMNN-MAF에 넣어 밀도 추정에서 평가했다. 원 연구는 변분 추론의 개선에도 적용해 단조 변환의 유용성을 조사했다.

관련 문서

MAF 마스크 자기회귀 흐름 / NAF 신경 자기회귀 흐름 / B-NAF / 신경 스플라인 흐름 / 정규화 흐름 변분 추론 / 변분 추론