범주와 연속 공간의 연결
Argmax Flows는 정규화 흐름 같은 연속 분포에 argmax를 합성해 범주를 얻는다. 최적화를 위해 범주 자료를 연속 공간으로 올리는 확률적 역방향을 학습한다.
범주형 잡음의 제거
다항 확산은 확산 과정에서 범주형 잡음을 점차 더한다. 생성 모형은 이 교란을 되돌리는 잡음 제거 과정을 학습하며, 연속 값의 잡음과 구분해 상태 변화를 다룬다.
언어와 분할 지도
원 연구는 텍스트와 이미지 분할 지도의 확률 모형을 평가했다. 범주에 임의의 수치 간격을 부여하기보다 범주 자체의 분포를 학습하는 문제에 초점을 둔다.
관련 문서
D3PM / SEDD / SurVAE Flows / 정수 이산 흐름 / VQ-Diffusion / 정규화 흐름 변분 추론