위키득계정 ↗
기술

DropEdge

DropEdge기술
연구 공개
2019년
변경 대상
입력 그래프의 간선
적용 시점
각 학습 에포크
목표
과적합 및 과도한 평활화 완화
DropEdge는 학습 에포크마다 입력 그래프의 일부 간선을 무작위로 제거하는 그래프 신경망 학습 기법이다. 자료 증강과 메시지 전달 축소를 통해 과적합과 과도한 평활화를 완화하려 한다.

학습 중 간선 제거

매 학습 에포크에서 입력 그래프의 일정 수 간선을 무작위로 없앤다. 바뀐 그래프가 자료 증강 역할을 하면서 메시지가 전달되는 연결도 줄이는 구성이다.

평활화의 속도와 정보 손실

원 연구는 간선 제거가 과도한 평활화의 수렴 속도를 낮추거나 그 과정의 정보 손실을 줄이는 효과를 이론적으로 분석했다. 작은 자료의 일반화를 해치는 과적합도 함께 다룬다.

여러 기본 모형에 적용

GCN과 잔차 GCN 및 GraphSAGE와 JKNet 등에 결합할 수 있는 기법으로 제안됐다. 원 연구는 여러 벤치마크의 얕은 모형과 깊은 모형에서 효과를 평가했다.

관련 문서

그래프 합성곱 신경망 / 과적합 / 데이터 증강 / GCNII / GraphSAGE / Jumping Knowledge 신경망