위키득계정 ↗
기술

안내 확산 모형 증류

안내 확산 모형 증류기술
연구 공개
2022년
발표
CVPR 2023
대상
분류기 없는 안내 확산
구성
안내 출력 통합 후 단계 증류
안내 확산 모형 증류는 조건부·무조건부 예측을 결합하는 안내 생성의 계산 비용을 줄이는 방법이다. 두 예측의 결합을 하나의 모형으로 학습한 뒤, 추출 단계 수도 점진적으로 줄인다.

안내 생성의 계산 부담

분류기 없는 안내는 조건이 있는 예측과 조건이 없는 예측을 결합한다. 여러 추출 단계에서 두 예측을 계산해야 하므로, 단순한 추출 단계 수 외에도 단계당 계산 비용이 생긴다.

두 단계의 압축

먼저 사전 학습된 안내 모형의 결합 출력을 단일 모형이 맞추도록 학습한다. 이후 그 모형에 점진적 증류를 적용해 필요한 추출 단계 수를 줄인다.

픽셀과 잠재 공간의 평가

원 연구는 픽셀 공간 확산과 잠재 공간 확산을 구분해 평가했다. 텍스트 안내 편집과 손상 영역 복원도 다뤘으며, 적은 단계의 결과는 각 자료와 모형 설정에 맞춰 비교한다.

관련 문서

확산 모형의 점진적 증류 / DDPM / DDIM / 일관성 생성 모형 / 지식 증류 / DPM-Solver