예시 사이의 학습 자료
두 입력을 일정한 비율로 결합하고 레이블도 같은 비율로 결합한다. 실제 예시 하나를 그대로 사용하는 것과 달리 예시 사이에 있는 혼합 자료를 학습에 활용한다.
선형 행동의 유도
혼합한 입력에서 혼합한 레이블을 예측하게 해 예시 사이의 관계를 단순하게 만드는 방향으로 정규화한다. 복잡한 신경망이 개별 자료만 암기하는 경향을 줄이려는 목적이다.
다양한 자료의 실험
논문은 ImageNet과 CIFAR 이미지 자료뿐 아니라 음성 명령과 UCI 자료에서도 일반화 성능을 살폈다. 입력과 레이블을 함께 혼합한다는 같은 원리를 여러 과제에 평가했다.
잡음과 생성 모델의 분석
초기 연구는 잘못된 레이블의 암기와 적대적 예시에 대한 견고함도 분석했다. 생성적 적대 신경망 학습의 안정화 효과도 보고했으며 후속 준지도 방법인 MixMatch의 자료 혼합에도 활용됐다.
관련 문서
MixMatch / DivideMix / FixMatch / Noisy Student / Confident Learning / 기계 학습