위키득계정 ↗
기술

B-NAF

B-NAF기술
연구 공개
2019년
원제
Block Neural Autoregressive Flow
구성
단일 피드포워드 신경망
가역성 설계
자기회귀성과 엄격한 단조성
B-NAF는 하나의 피드포워드 신경망으로 가역 변환을 직접 표현하는 블록 신경 자기회귀 흐름이다. 블록 행렬을 사용해 자기회귀성과 엄격한 단조성을 확보하며 모형의 파라미터를 줄인다.

파라미터 생성의 비용

NAF에서는 한 신경망의 파라미터를 다른 신경망이 예측한다. B-NAF는 이 구성의 크기 증가 문제를 다루기 위해 가역 변환 자체를 하나의 신경망으로 직접 모델링한다.

블록 행렬의 역할

각 아핀 변환을 블록 행렬로 설계해 전체 흐름이 자기회귀적이고 엄격히 단조가 되도록 한다. 이 성질로 가역성을 확보하며, 밀도 함수의 보편 근사 능력을 갖는 간결한 구성을 제안한다.

근사 추론과 밀도 추정

원 연구는 NAF 및 기존 흐름과 밀도 추정 및 잠재 변수 모형의 근사 추론에서 비교했다. 파라미터를 줄이면서 표현 능력과 과제 성능을 유지하는지를 평가했다.

관련 문서

NAF 신경 자기회귀 흐름 / MAF 마스크 자기회귀 흐름 / IAF 역자기회귀 흐름 / 신경 스플라인 흐름 / 정규화 흐름 변분 추론 / 확률 밀도 함수