위키득계정 ↗
기술

FFJORD

FFJORD기술
연구 공개
2018년
시간 구성
연속 시간
핵심 계산
Hutchinson 대각합 추정
추정 대상
로그 밀도
FFJORD는 상미분방정식으로 정의한 연속 시간 가역 생성 모형이다. 야코비 행렬의 대각합을 확률적으로 추정해 신경망 구조를 강하게 제한하지 않고 로그 밀도를 학습한다.

행렬식에서 대각합으로

가역 생성 모형의 우도 학습에서는 야코비 행렬식 계산이 구조를 제한할 수 있다. 변환을 상미분방정식으로 정의하면 대각합을 이용해 밀도 변화를 다룰 수 있다.

확률적 대각합 추정

Hutchinson 추정기로 로그 밀도의 확장 가능한 불편 추정치를 얻는다. 이를 통해 연속 시간 가역 생성 모형을 구성하고 신경망 구조 선택의 제약을 줄인다.

생성과 밀도 추정

원 연구는 한 번의 표본 생성 경로를 사용하는 모형으로 고차원 밀도 추정과 이미지 생성 및 변분 추론을 평가했다. 밀도 추정 계산과 가역적 생성 경로를 함께 다룬다.

관련 문서

신경 상미분방정식 / Residual Flows / 정규화 흐름 변분 추론 / Glow 생성 흐름 / Real NVP / 변분 추론