잘못된 음성 표본의 문제
대조 학습에서 서로 다른 이미지라고 모두 의미적으로 다른 것은 아니다. 실제로 비슷한 의미를 가진 표본을 음성으로 다루면 유용한 관계를 밀어낼 수 있다. MSVQ는 평균 이동 자기 지도 학습에서 영감을 얻어 이 문제를 다룬다.
여러 관측의 부드러운 레이블
여러 증강 양성 뷰와 두 모멘텀 인코더를 이용하는 상호 보완적인 구성을 통해 학습 중 세 부드러운 레이블을 만든다. 하나의 단단한 범주 정답만 제공하는 방식과 구분된다.
유사도 관계의 전달
두 교사망은 음성 표본들과의 유사도 관계를 계산하고 그 지식을 학생망으로 전달한다. 학생은 표본 사이 관계를 모방해 잘못된 음성 표본을 더 유연하게 다루도록 학습한다. 관계 추정이 정확한 의미 주석과 같은 것은 아니다.
음성 해석의 독립 예
설명용으로 같은 종류의 자전거를 서로 다른 장소에서 찍은 두 사진은 파일은 달라도 의미를 공유한다. 이를 무조건 멀리 밀어내는 것과 관계를 부드럽게 학습하는 것은 다르다. 실제 연구 표본을 옮기지 않은 음성 오류의 예다.
관련 문서
NNCLR / PCL 표현 학습 / 평균 이동 자기 지도 학습 / AdaSim / 대조 학습 / 자기 지도 학습