거리 학습의 목표
거리 학습은 비슷한 클래스의 표현을 가깝게 하고 서로 다른 클래스의 표현은 떨어뜨린다. 이 연구는 유클리드 거리를 흔히 쓰는 설정에서 표현 공간을 쌍곡 기하로 바꾸는 접근을 다룬다.
출력 임베딩의 변환
비전 트랜스포머를 핵심 인코더로 사용하고 출력 임베딩을 쌍곡 공간에 매핑한다. 바뀐 공간의 임베딩을 수정한 쌍별 교차 엔트로피 손실로 직접 학습한다.
구성별 비교
원 연구는 여섯 가지 정식화를 네 자료에서 비교했다. 인코더와 표현 공간 및 손실의 조합을 평가하는 연구로, 트랜스포머의 모든 내부 연산을 쌍곡화했다는 의미와는 구별된다.
관련 문서
쌍곡 이미지 임베딩 / 비전 트랜스포머 / 거리 학습 / 교차 엔트로피 / 푸앵카레 임베딩 / HNNplusplus