블록을 이어 만드는 생성
블록 단위로 텍스트를 반복 생성해 출력 길이를 유연하게 정한다. 각 블록에서는 국소적인 양방향 문맥 갱신을 허용해 한 토큰씩만 확정하는 방식과 구분된다.
어휘 공간에서의 확산
별도로 학습한 잠재 표현 대신 자연스러운 어휘 공간을 이용하는 심플렉스 기반 구조다. 이 선택으로 기존 분류기를 별도 적응 없이 안내와 모듈식 제어에 사용할 수 있도록 한다.
자유 생성과 제어 생성
원 연구는 제약 없는 텍스트 생성의 품질과 다양성, 제어된 텍스트 생성을 각각 평가했다. 긴 출력의 구성 방식과 조건을 결합하는 방식을 함께 설계한 접근이다.
관련 문서
Plaid 언어 모형 / Block Diffusion 언어 모형 / Diffusion-LM / GENIE 확산 언어 모형 / MDLM / LLaDA