예측과 레이블의 불확실성
모델이 답을 얼마나 확신하는가와 학습 자료의 레이블이 맞는가는 다른 문제다. Confident Learning은 데이터의 잘못된 레이블을 특성화하고 찾아내는 데 초점을 맞춘다.
관측 레이블과 잠재 레이블
클래스에 조건부인 잡음 과정을 가정해 주어진 레이블과 오염되지 않은 잠재 레이블의 결합 분포를 직접 추정한다. 레이블 사이에서 어떤 오류가 생기는지 확률적으로 다루려는 방법이다.
오류 추정과 예시 순위
확률 임계값을 이용한 집계와 잡음 예시의 제거 및 예시 순위화를 결합한다. 모든 의심 사례를 곧바로 확정 오류로 처리하는 것과 달리 추정 조건과 검토 목적을 구분해야 한다.
여러 자료 유형의 평가
논문은 CIFAR와 MNIST 및 ImageNet 같은 이미지 자료와 Amazon Reviews의 텍스트 분류를 다뤘다. 특정 모델이나 입력 유형에만 묶이지 않는 틀로 제시하고 레이블 정제가 학습에 미치는 영향을 평가했다.
관련 문서
Co-teaching / Trust Score / 온도 스케일링 / 딥 앙상블 / 기계 학습 / 지도 학습