같은 원본의 변환만 쓰는 한계
많은 인스턴스 구별 방식은 같은 이미지에서 만든 서로 다른 뷰를 양성 쌍으로 취급한다. 이때 학습할 불변성은 미리 정한 변환의 범위에 영향을 받는다. NNCLR은 다른 인스턴스의 양성 표본도 활용한다.
잠재 공간에서 이웃 선택하기
자료의 잠재 표현에서 최근접 이웃을 표본화해 대조 손실의 양성으로 사용한다. 픽셀값이 가장 비슷한 파일을 고르는 것과는 다르다. 선택은 현재 학습된 표현에 의존한다.
증강과 전이의 평가
연구는 분류와 반지도 학습, 여러 후속 과제 전이에서 표현을 평가하고 복잡한 증강에 대한 의존도도 살핀다. 이웃 기반 양성 선택의 효과를 모든 증강을 제거해도 된다는 주장으로 확대해서는 안 된다.
잘못된 이웃의 독립 예
설명용으로 비슷한 배경 때문에 새 사진과 비행기 사진의 표현이 가까울 수 있다. 최근접이라는 기준만으로 같은 의미라고 확정할 수는 없다. 실제 연구 표본을 옮기지 않은 이웃 선택의 한계 예다.
관련 문서
PCL 표현 학습 / 대조 학습 / 자기 지도 학습 / SCAN 이미지 군집 / DenseCL / PixPro