위키득계정 ↗
기술

점수 기반 확률 미분 생성

점수 기반 확률 미분 생성기술
연구 공개
2020년
발표
ICLR 2021
연속 시간 표현
확률 미분방정식
점수의 뜻
로그 확률밀도의 기울기
점수 기반 확률 미분 생성은 잡음을 더하고 제거하는 과정을 연속 시간의 확률 미분방정식으로 표현하는 생성 체계다. 시간별로 교란된 분포의 점수를 학습해 역시간 방정식으로 표본을 만든다.

순방향과 역방향 방정식

순방향 방정식은 자료 분포를 알려진 사전 분포로 바꾸도록 잡음을 주입한다. 역시간 방정식은 교란된 분포의 시간별 점수에 의존하며, 신경망으로 추정한 점수와 수치 해법을 결합해 생성한다.

예측과 보정의 결합

이산화한 역시간 방정식을 따라가는 과정에는 수치 오차가 생긴다. 예측자와 보정자를 결합하는 표본 추출 체계를 제안해 이러한 오차를 다룬다.

확률 흐름과 역문제

같은 시간별 분포를 갖는 대응 상미분방정식도 유도한다. 이는 우도 계산을 가능하게 하는 경로를 제공한다. 원 연구는 조건부 생성과 이미지 복원 같은 역문제도 같은 체계에서 다뤘다.

관련 문서

잡음 조건부 점수 신경망 / DDPM / DDIM / 신경 상미분방정식 / FFJORD / SiT 생성 모형