두 가지 요구의 분리
같은 의미 관측의 특징은 가깝게 유지하면서 전체 특징은 충분히 퍼질 필요가 있다. 이 연구는 대조 손실과 연결된 정렬 및 균일성을 별도의 성질로 식별한다. 모든 쌍을 가깝게 만드는 목표와는 다르다.
초구 위의 표현 분포
정규화한 특징의 분포를 초구 위에서 살핀다. 균일성은 표현의 방향이 어떻게 퍼져 있는지에 대한 관점이며 원래 이미지의 밝기가 균일하다는 뜻은 아니다.
지표와 점근 결과
대조 손실이 점근적으로 두 성질을 최적화함을 보이고 각 성질을 수치화하는 최적화 가능한 지표를 제안한다. 이 지표를 직접 최적화하는 표현도 평가한다. 유한 배치의 모든 학습 경로가 같은 결과를 내는 보장과 구분해야 한다.
한쪽 목표의 독립 예
설명용으로 모든 영상을 같은 단위 벡터로 보내면 양성 쌍 거리는 작아도 전체 분포가 한 방향에 몰린다. 정렬만으로는 유용한 표현이 충분하지 않음을 보여 준다. 실제 연구 수치를 옮기지 않은 두 성질의 예다.
관련 문서
조밀 대조 표현의 정렬과 균일성 / 대조 학습 / 분리 대조 학습 / 백색화 자기 지도 학습 / VICReg / PCL 표현 학습