위키득계정 ↗
기술

잡음 조건부 점수 신경망

잡음 조건부 점수 신경망기술
연구 공개
2019년
약칭
NCSN
학습 대상
잡음 수준별 분포의 점수
추출 방법
어닐링 랑주뱅 동역학
잡음 조건부 점수 신경망은 서로 다른 잡음 수준에서 자료 분포의 점수를 학습하는 생성 접근이다. 점수는 로그 확률밀도의 기울기이며, 생성 때에는 잡음 수준을 낮춰 가며 랑주뱅 동역학으로 표본을 갱신한다.

자료 분포 주변의 학습

자료가 낮은 차원의 다양체에 놓이면 원래 분포의 기울기를 정의하거나 추정하기 어려울 수 있다. 서로 다른 세기의 가우스 잡음으로 자료를 교란해 이 문제에 접근한다.

여러 잡음 수준의 결합

잡음별로 교란된 분포의 점수를 함께 추정한다. 학습 과정은 적대적 판별기를 요구하지 않으며, 표본을 생성하는 반복 절차를 학습 중 그대로 실행할 필요도 없다.

점진적인 표본 갱신

생성 때에는 잡음 수준을 점차 낮추면서 해당 수준의 점수를 사용한다. 거친 분포에서 자료 주변의 세밀한 구조로 이동하는 과정을 구성하며, 원 연구는 이미지 생성과 손상 영역 복원으로 평가했다.

관련 문서

점수 기반 확률 미분 생성 / DDPM / DDIM / 변분 확산 모형 / 확률 분포 / 신경망