위키득계정 ↗
기술

GraphGPS

GraphGPS기술
연구 공개
2022년
발표
NeurIPS 2022
세 구성
인코딩 국소 전달 전역 어텐션
설계 방향
모듈식 그래프 트랜스포머
GraphGPS는 위치 및 구조 인코딩과 국소 메시지 전달 및 전역 어텐션을 조합하는 그래프 트랜스포머 틀이다. 여러 구성 요소를 교체할 수 있는 모듈 구조로 효율과 표현력을 함께 다룬다.

인코딩의 구분

그래프에서 위치나 구조를 어떻게 표현하는지 명확히 정의하는 문제를 다룬다. 원 연구는 인코딩을 국소와 전역 및 상대적 유형으로 구분하고 여러 형태를 지원하는 공통 틀을 제안했다.

국소 전달과 전역 어텐션

실제 간선 위의 국소 집계와 전역 트랜스포머 처리를 분리한다. 위치 및 구조 인코딩과 메시지 전달 및 전역 어텐션을 선택하는 세 요소로 설계를 구성하며 노드와 간선 수에 선형인 구성도 제안했다.

조합의 효과

원 연구는 작은 그래프와 큰 그래프를 포함하는 16개 벤치마크에서 평가했다. 모듈화와 서로 다른 전략의 결합이 성능과 확장성에 어떤 이점을 주는지 조사했다.

관련 문서

Graphormer / 트랜스포머 / 어텐션 / 그래프 신경망 / 표현 학습 / Open Graph Benchmark