개별 표본의 구별을 넘어서기
인스턴스별 구별은 서로 다른 이미지를 구분하는 표현을 만들지만 의미적으로 공유되는 구조를 충분히 반영하지 못할 수 있다. PCL은 학습한 임베딩에 자료의 의미 구조를 암시적으로 담으려 한다.
군집과 학습의 교대
프로토타입을 잠재 변수로 도입해 기댓값 최대화 틀에서 모형 매개변수의 최대 가능도 추정을 돕는다. E단계는 군집화로 프로토타입 분포를 찾고 M단계는 대조 학습으로 네트워크를 최적화한다.
프로토타입으로 향하는 표현
ProtoNCE는 InfoNCE를 일반화한 손실로, 표현이 할당된 프로토타입에 가까워지도록 장려한다. 프로토타입이 항상 사람이 정의한 의미 범주 하나에 대응하는 것은 아니다.
관계의 독립 예
설명용으로 서로 다른 두 신발 사진은 개별 표본으로는 다르지만 형태 특징을 공유할 수 있다. 표본 구별과 공유 구조를 함께 배우려는 이유를 보여 준다. 실제 연구 이미지를 옮기지 않은 인스턴스와 의미 관계의 예다.
관련 문서
대조 학습 / 자기 지도 학습 / 기댓값 최대화 알고리즘 / InfoNCE / 군집 표현 공동 자기 레이블링 / NNCLR