위키득계정 ↗
기술

DDPM

DDPM기술
연구 공개
2020년
원제
Denoising Diffusion Probabilistic Models
순방향 과정
단계적인 가우스 잡음 추가
역방향 과정
학습한 확률적 전이
DDPM은 자료에 잡음을 점차 더하는 과정의 역방향을 학습하는 생성 모형이다. 잡음 수준별로 복원 방법을 익힌 뒤, 무작위 잡음에서 여러 단계를 거쳐 표본을 만든다.

잡음으로 바꾸는 과정

순방향에서는 정해진 분산 일정에 따라 자료에 가우스 잡음을 더한다. 중간 시점의 잡음 자료를 직접 구할 수 있어 학습 때 매번 모든 단계를 순서대로 계산할 필요는 없다.

복원을 배우는 목표

학습하는 신경망은 잡음이 섞인 자료와 시점을 받아 역방향 전이에 필요한 양을 예측한다. 원 연구는 변분 목적의 가중 방식과 매개변수화를 잡음 제거 점수 맞추기와 연결했다.

표본을 만드는 과정

생성은 표준 정규분포의 표본에서 출발해 학습한 전이를 반복한다. 순방향에서 잃은 자료의 구조를 역방향으로 복원하며, 학습과 표본 추출의 단계를 구분하는 것이 모형을 이해하는 핵심이다.

관련 문서

DDIM / 변분 확산 모형 / DiT 확산 트랜스포머 / JiT 이미지 트랜스포머 / 변분 오토인코더 / 확률 분포