위키득계정 ↗
기술

ReMixMatch

ReMixMatch기술
연구 공개
2019년
출발 방법
MixMatch
분포 처리
예측과 정답의 주변 분포 정렬
일관성 처리
약한 증강을 기준으로 강한 증강 고정
ReMixMatch는 분포 정렬과 증강 고정을 도입해 MixMatch를 확장한 반지도 학습 방법이다. 무표지 예측의 클래스 분포와 같은 입력의 여러 증강 예측을 함께 조정한다.

예측의 분포 정렬

무표지 자료에서 얻는 예측의 주변 분포가 정답 표지의 주변 분포에 가까워지도록 유도한다. 개별 표본의 확신뿐 아니라 예측이 클래스 전체에 어떻게 배분되는지도 반영한다.

증강 예측의 고정

같은 입력의 약하게 증강한 버전에서 예측을 얻고 이를 여러 강한 증강 버전의 출력이 따르도록 한다. 약한 변형을 기준점으로 삼아 더 큰 변형에서도 일관된 예측을 학습하는 구성이다.

학습 중 증강 정책

강한 증강을 만들기 위해 모형 학습과 함께 증강 정책을 배우는 AutoAugment 변형도 제안했다. 원 연구는 표지가 적은 조건의 분류 정확도로 자료 활용 효율을 평가했다.

관련 문서

MixMatch / 반지도 학습 / 데이터 증강 / 일관성 정규화 / AutoAugment / FixMatch