위키득계정 ↗
기술

DPM-Solver

DPM-Solver기술
연구 공개
2022년
발표
NeurIPS 2022
대상
확산 상미분방정식
적용 방식
추가 학습 없는 추출
DPM-Solver는 확산 모형의 표본 추출을 위한 전용 고차 상미분방정식 해법이다. 해의 선형 부분을 해석적으로 처리하고 신경망이 포함된 적분을 근사해, 추가 학습 없이 생성에 필요한 함수 평가를 줄인다.

추출을 수치 해법으로 보기

확산 모형의 생성은 대응하는 상미분방정식을 푸는 방식으로 표현할 수 있다. 일반적인 해법에 모든 항을 맡기기보다 방정식의 구조를 활용하는 것이 출발점이다.

선형 부분과 적분의 분리

해의 선형 부분을 해석적으로 계산한 뒤 변수 변환을 적용한다. 남은 부분은 신경망 출력의 지수 가중 적분으로 정리하며, 이를 바탕으로 수렴 차수를 갖는 고차 해법을 구성한다.

적은 함수 평가의 의미

이산 시간 및 연속 시간 확산 모형에 추가 훈련 없이 적용한다. 원 연구는 여러 자료에서 10회에서 20회의 함수 평가를 평가했지만, 같은 횟수가 모든 모형에서 동일한 품질을 보장하는 것은 아니다.

관련 문서

DDPM / DDIM / PNDM / EDM 확산 설계 체계 / 점수 기반 확률 미분 생성 / 신경 상미분방정식