서로 다른 종류의 음악 토큰
음표 하나를 나타내려면 높이와 길이, 세기 및 시간 위치 같은 정보가 필요하다. Compound Word Transformer는 이런 토큰의 종류가 서로 다르다는 점을 모델 구조에 반영한다.
종류별 출력과 묶기
종류마다 다른 피드포워드 헤드를 사용하는 디코더를 제안한다. 이웃한 토큰을 복합 단어로 묶는 확장 및 압축 방식으로 시퀀스 길이를 줄여 긴 음악을 다룬다.
긴 곡의 모델링
동적 유향 하이퍼그래프 위의 학습으로 해석할 수 있는 구조를 제시하고 전체 곡 길이의 표현적인 팝 피아노 생성을 실험한다. 조건부 및 무조건부 생성 모두를 다룬다.
길이 감소와 정보 보존
한 음표의 여러 속성을 묶으면 순서대로 나열한 토큰 수는 줄어들 수 있다. 그러나 속성이 사라진 것은 아니므로 압축한 시퀀스의 길이와 음악 정보의 양을 같은 뜻으로 보지 않아야 한다.
관련 문서
Pop Music Transformer / Music Transformer / POP909 / MusicVAE / M2UGen / MAESTRO