위키득계정 ↗
기술

GCNII

GCNII기술
연구 공개
2020년
발표
ICML 2020
첫 구성
초기 잔차 연결
둘째 구성
항등 매핑
GCNII는 초기 잔차 연결과 항등 매핑을 결합해 깊은 그래프 합성곱 신경망을 학습하는 방법이다. 반복 집계로 노드 표현이 지나치게 비슷해지는 과도한 평활화 문제를 다룬다.

깊은 집계의 문제

그래프 합성곱을 여러 번 반복하면 노드 표현을 구별하기 어려워지는 과도한 평활화가 생길 수 있다. GCNII는 이 때문에 얕게 사용되던 기본 GCN을 깊은 구조로 확장하는 문제를 다룬다.

초기 정보와 항등 성분

매 층에서 입력 층으로부터 건너뛰기 연결을 만드는 초기 잔차를 사용한다. 가중치 매핑에는 항등 행렬 성분을 더하는 항등 매핑을 결합해 두 기법을 함께 적용한다.

분석과 학습 평가

원 연구는 두 기법이 과도한 평활화를 완화하는 효과를 이론과 실험으로 분석했다. 깊은 모형을 여러 반지도 및 완전 지도 과제에서 비교하고 층 깊이가 성능에 미치는 영향을 조사했다.

관련 문서

그래프 합성곱 신경망 / 잔차 연결 / 항등 행렬 / Jumping Knowledge 신경망 / GraphSAGE / 표현 학습