병렬적인 시퀀스 정제
토큰을 하나씩 순서대로 확정하는 대신 이산 확산의 반복 잡음 제거를 사용한다. 한 번의 정제로 생성이 끝나는 것이 아니라 여러 차례 시퀀스를 갱신하는 구조다.
초기화와 잡음 일정
자기회귀 언어 모형의 가중치에서 출발한다. 문맥 적응형 토큰별 잡음 일정 재조정을 결합해 기존 언어 표현을 확산 생성의 학습에 활용한다.
유연한 생성 순서
임의 순서 생성과 빈 구간 채우기 및 품질과 속도의 조절을 평가했다. 일반 과제와 수학 및 코드에서 실험하고 기본 모형과 지시 학습 모형을 구분해 공개했다.