위키득계정 ↗
기술

EDM 확산 설계 체계

EDM 확산 설계 체계기술
연구 공개
2022년
발표
NeurIPS 2022
원제
Elucidating the Design Space of Diffusion-Based Generative Models
분석 범위
학습과 추출 및 사전 조건화
EDM은 확산 생성 모형의 학습과 표본 추출에 얽힌 설계 선택을 나누어 분석하는 체계다. 점수 신경망의 전처리 조건과 학습·추출 방식을 함께 검토하며, 일부 변경은 이미 학습한 모형에도 적용한다.

설계 선택의 분리

확산 모형의 여러 구현 차이를 한 덩어리로 비교하면 어떤 선택이 효과를 냈는지 파악하기 어렵다. 연구는 구체적인 설계 요소를 분리해 학습과 표본 추출을 분석한다.

신경망과 추출 과정

점수 신경망의 사전 조건화와 학습 방식뿐 아니라 생성 때의 표본 추출 절차도 검토한다. 같은 모형이라도 추출 설계의 변경으로 얻는 효과와 다시 학습해서 얻는 효과를 구분한다.

모듈식 변경의 평가

기존 연구의 사전 학습 점수 신경망에 변경을 적용해 효율과 생성 품질을 평가했다. 새 학습 설정의 결과도 별도로 제시했으며, 신경망 호출 횟수와 품질을 함께 살피는 비교가 중요하다.

관련 문서

DDPM / DDIM / 점수 기반 확률 미분 생성 / 잡음 조건부 점수 신경망 / SiT 생성 모형 / DiT 확산 트랜스포머