긴 경로의 정보 병목
긴 경로를 통해 메시지를 모으면 집계할 정보가 빠르게 늘어날 수 있다. 이를 고정 크기 표현에 압축하는 병목 때문에 먼 노드에서 온 신호를 충분히 전달하지 못하는 현상을 다룬다.
집계 방식과 민감도
원 연구는 장거리 신호를 학습 자료에서도 맞추지 못하는 경우를 보였다. 들어오는 간선을 같은 방식으로 흡수하는 GCN과 GIN이 GAT나 GGNN보다 이 문제에 더 민감한 실험 조건도 조사했다.
병목을 바꾸는 실험
장거리 과제로 조정한 기존 모형에도 과도한 압축이 남는지 살폈다. 병목을 해소하는 변경으로 추가 가중치나 별도 조정 없이 결과가 개선되는 경우를 평가했다.
관련 문서
GIN 그래프 동형 신경망 / GAT 그래프 어텐션 / GraphGPS / Long Range Graph Benchmark / 그래프 신경망 / 표현 학습