위키득계정 ↗
기술

변분 확산 모형

변분 확산 모형기술
연구 공개
2021년
발표
NeurIPS 2021
하한 표현
신호 대 잡음비
학습 요소
잡음 스케줄과 생성 모형
변분 확산 모형 연구는 신호 대 잡음비로 확산 모형의 변분 하한을 설명하고 잡음 스케줄을 함께 학습한다. 이미지의 우도 기반 밀도 추정과 bits-back 무손실 압축을 평가했다.

확산 과정의 하한

확산된 자료의 신호 대 잡음비를 이용해 변분 하한을 간결하게 나타낸다. 이를 바탕으로 여러 확산 모형 사이의 동등한 관계를 분석한다.

잡음 스케줄의 학습

연속 시간 하한은 양 끝의 신호 대 잡음비를 제외하면 잡음 스케줄에 불변인 성질을 갖는다. 따라서 하한 추정기의 분산을 줄이는 스케줄을 학습해 나머지 모형과 함께 최적화한다.

우도와 무손실 압축

구조 개선을 결합해 표준 이미지 밀도 추정 벤치마크에서 로그 우도를 평가했다. 모형을 bits-back 압축의 일부로 사용해 이론적 최적에 가까운 무손실 압축률을 조사했다.

관련 문서

BB-ANS / 확산 모델 / 변분 오토인코더 / 신호 대 잡음비 / 무손실 압축 / 확률 밀도 함수