깊은 그래프 학습의 제약
그래프 합성곱 층이 깊어지면 기울기 소실과 과도한 평활화 및 과적합이 학습을 어렵게 할 수 있다. DeeperGCN은 큰 그래프에서 이런 제약을 다루는 학습 구성을 제안했다.
집계와 메시지 정규화
평균이나 최댓값 같은 서로 다른 메시지 집계 연산을 통합하는 미분 가능한 일반화 함수를 정의한다. MsgNorm이라는 정규화 층과 사전 활성화 형태의 잔차 연결도 함께 도입했다.
큰 그래프의 과제
원 연구는 Open Graph Benchmark에서 노드 성질 예측과 그래프 성질 예측을 평가했다. 기존의 얕은 모형과 비교하며 깊은 그래프 합성곱을 학습하는 효과를 조사했다.
관련 문서
GCNII / PairNorm / 잔차 연결 / 그래프 합성곱 신경망 / Open Graph Benchmark / 표현 학습