위키득계정 ↗
기술

HNN++

HNN++기술
연구 공개
2020년
발표
ICLR 2021
원제
Hyperbolic Neural Networks++
공간 모형
푸앵카레 공
HNN++는 푸앵카레 공 모형에서 여러 신경망 구성 요소를 통일된 수학적 해석으로 정의한 연구다. 다항 로지스틱 회귀와 완전 연결층, 합성곱층, 어텐션을 쌍곡 공간에 구성한다.

구성 요소의 통일

계층적 자료를 다루는 쌍곡 신경망의 기본 요소를 하나의 기하 모형에서 일반화한다. 여러 연산을 각각 따로 처리하기보다 같은 수학적 해석 아래에 구성하는 것이 목표다.

다루는 신경망 층

다항 로지스틱 회귀와 완전 연결층 및 합성곱층을 구성하고 어텐션까지 포함한다. 연구에서 제안한 구성은 이를 위해 파라미터 수를 늘리지 않는 방향으로 설계됐다.

효율과 안정성의 평가

기존 쌍곡 구성 요소와 파라미터 효율을 비교하고 유클리드 공간의 대응 모형과 안정성 및 성능을 평가했다. 쌍곡 공간 선택뿐 아니라 그 안의 연산 정의가 중요하다는 관점을 다룬다.

관련 문서

쌍곡 신경망 / 푸앵카레 임베딩 / HGCN 쌍곡 그래프 합성곱 / 어텐션 / 합성곱 신경망 / 임베딩