정적 어텐션의 의미
기존 GAT에서는 어텐션 점수의 순위가 질의 노드에 조건화되지 않는다는 점을 분석했다. 이를 정적 어텐션으로 정의하고 더 표현력이 높은 동적 어텐션과 구분한다.
연산 순서의 변경
어텐션 연산의 순서를 수정해 정적 순위의 한계를 없애는 GATv2를 제안했다. 원 연구는 표현할 수 있는 그래프 문제의 범위가 기존 GAT보다 엄밀하게 넓어짐을 보였다.
매개변수 비용을 맞춘 평가
통제된 문제에서 정적 어텐션이 학습 자료조차 맞추지 못하는 경우를 조사했다. OGB와 다른 자료를 포함한 11개 벤치마크에서는 매개변수 비용을 맞춰 GAT와 GATv2를 비교했다.
관련 문서
GAT 그래프 어텐션 / 어텐션 / GraphSAGE / GIN 그래프 동형 신경망 / Open Graph Benchmark / 표현 학습