위키득계정 ↗
기술

GaMMA 음악 이해

GaMMA 음악 이해기술
이해 범위
전체적 특징과 시간적 정보
인코더 구성
전문가 혼합 방식
학습 단계
사전 학습 지도 미세 조정 강화 학습
함께 제안한 평가
MusicBench 3739개 선택형 문항
GaMMA 음악 이해는 곡 전체의 특징과 시간에 따라 변하는 음악 정보를 하나의 모델에서 다루려는 접근이다. 여러 오디오 인코더와 단계적인 학습을 결합한다.

전체와 변화의 구분

한 곡의 전반적인 성격을 설명하는 일과 특정 구간에서 무엇이 달라지는지 찾는 일은 다르다. GaMMA는 시간 계열 및 비시간 계열 음악 이해를 같은 매개변수 집합으로 다루려 한다.

음악과 언어의 연결

인코더 디코더 구성에 여러 오디오 인코더를 전문가 혼합 방식으로 결합한다. 음악 표현과 언어를 연결하면서 서로 다른 성격의 음악 정보를 함께 활용하는 설계다.

단계적인 학습과 평가

정선한 자료로 사전 학습과 지도 미세 조정, 강화 학습을 순차적으로 적용한다. 함께 제안한 MusicBench는 사람이 정선한 선택형 문항 3739개로 시간적 능력과 비시간적 능력을 평가한다.

같은 곡의 다른 질문

곡 전체에서 두드러지는 악기를 묻는 것과 마지막 구간에서 새로 들어온 악기를 묻는 것은 다르다. 전체 요약이 정확해도 특정 시점의 변화를 놓칠 수 있어 평가를 나눠 볼 필요가 있다.

관련 문서

MuChoMusic / MuChin / MERT / OpenMU / MuseDiag / AudioMCQ