위키득계정 ↗
기술

GraphSAINT

GraphSAINT기술
연구 공개
2019년
발표
ICLR 2020
표본 단위
학습 그래프의 부분 그래프
편향 처리
정규화 기법
GraphSAINT는 전체 학습 그래프에서 부분 그래프를 뽑아 미니배치를 만드는 귀납적 학습 방법이다. 층마다 다른 표본을 고르는 대신 하나의 표본 그래프 위에 완전한 그래프 합성곱 모형을 구성한다.

부분 그래프의 미니배치

층별 노드나 간선을 따로 표본 추출하는 대신 학습 그래프 자체에서 부분 그래프를 뽑는다. 각 반복에서 이 부분 그래프 위에 전체 GCN을 구성해 모든 층에서 연결된 일정한 노드 집합을 사용한다.

편향과 분산의 조절

표본 추출의 편향을 없애기 위한 정규화 기법과 분산을 줄이는 표본 알고리즘을 제안했다. 미니배치에서 이웃 수가 폭증하는 문제를 다른 관점에서 다루는 구성이다.

학습 절차와의 분리

표본 추출을 순전파 및 역전파와 분리할 수 있어 그래프 어텐션이나 점프 연결 같은 구조 변형에 확장할 수 있다. 원 연구는 다섯 큰 그래프에서 정확도와 학습 시간을 평가했다.

관련 문서

Cluster-GCN / 그래프 합성곱 신경망 / 부분 그래프 / GAT 그래프 어텐션 / Jumping Knowledge 신경망 / 표본 추출