위키득계정 ↗
기술

GCN의 깊이와 정보 손실

GCN의 깊이와 정보 손실기술
연구 공개
2019년
발표
ICLR 2020
분석 관점
층 수가 커지는 점근 행동
주요 조건
가중치와 정규화 라플라시안 스펙트럼
GCN의 깊이와 정보 손실 연구는 깊은 그래프 합성곱 모형의 출력을 동역학계로 분석한다. 특정 가중치와 그래프 스펙트럼 조건에서 노드를 구별하는 정보가 지수적으로 제한되는 현상을 설명한다.

깊이의 점근 분석

층과 비선형성을 늘려도 예측이 좋아지지 않는 현상을 이해하기 위해 표현력을 분석한다. GCN의 순전파를 특정 동역학계로 일반화하고 층 수가 무한히 커지는 경우를 살핀다.

조건부 정보의 제한

가중치가 증강 정규화 라플라시안의 스펙트럼으로 정해지는 조건을 만족하면 출력이 특정 신호 집합으로 지수적으로 접근함을 보였다. 이 집합에는 노드를 구별하는 데 연결 성분과 노드 차수 정보만 남는다.

그래프 조건과 가중치 조정

충분히 크고 조밀한 에르되시 레니 그래프에서도 넓은 범위의 GCN이 극한에서 정보를 잃는 경우를 분석했다. 이론을 바탕으로 가중치 정규화 지침을 제시하고 실제 자료에서 가중치 크기 조정의 효과를 평가했다.

관련 문서

GCNII / PairNorm / DropEdge / 그래프 라플라시안 / 연결 성분 / 그래프 합성곱 신경망