위키득계정 ↗
기술

편향 보정 대조 학습

편향 보정 대조 학습기술
원래 이름
Debiased Contrastive Learning
문제
무작위 음성의 같은 레이블 혼입
보정 대상
대조 학습 목적
이론 평가
후속 분류의 일반화 경계
편향 보정 대조 학습은 무작위 음성 표본 중 실제로 같은 레이블을 가진 표본이 섞이는 문제를 보정하는 학습 목적이다. 참 레이블을 모르는 조건에서도 같은 의미 표본을 밀어내는 표본화 편향을 다루려 한다.

다른 표본과 다른 의미의 차이

주석이 없으면 다른 이미지를 무작위로 뽑아 음성으로 쓰기 쉽다. 그러나 다른 표본도 실제로 같은 레이블을 가질 수 있다. 이런 표본을 모두 다른 의미로 간주해 밀어내면 학습에 편향이 생길 수 있다.

참 레이블 없이 보정하기

연구는 레이블을 아는 합성 설정에서 실제로 다른 레이블의 음성을 쓰는 효과를 관찰한다. 이를 바탕으로 참 레이블을 몰라도 같은 레이블 표본의 표본화를 보정하는 대조 목적을 제안한다.

보정과 정답 식별의 구분

학습 목적에서 혼입을 보정하는 것과 개별 음성의 실제 레이블을 정확히 찾아내는 것은 다른 문제다. 연구는 시각과 언어 및 강화 학습의 표현 평가와 후속 분류의 일반화 경계를 다룬다.

혼입의 독립 예

설명용으로 자전거 사진의 음성 열 장 중 두 장이 다른 자전거 사진일 수 있다. 서로 다른 파일이라는 기준만으로 모두 다른 의미라고 볼 수 없다. 실제 연구의 표본 비율을 옮기지 않은 음성 혼입의 예다.

관련 문서

분리 대조 학습 / 대조 학습 / MSVQ / NNCLR / PCL 표현 학습 / 자기 지도 학습