자신 있는 오답의 반복
도메인 적응 자기 학습은 타깃의 확신 높은 예측을 다시 학습에 쓴다. 예측이 틀렸는데 확신도 높으면 오류가 전파돼 잘못된 해로 치우칠 수 있다. CRST는 이 과신 문제를 정규화된 자기 학습으로 다룬다.
연속적인 레이블의 최적화
의사 레이블을 연속 잠재 변수로 취급하고 교대 최적화를 통해 함께 갱신한다. 모형이 출력한 하나의 범주를 고정 정답처럼 반복 사용하는 해석과 다르다.
두 정규화의 역할
레이블 정규화는 부드러운 의사 레이블을 생성한다. 모형 정규화는 네트워크 출력의 매끄러움을 장려한다. 두 접근은 조정 대상이 다르며 분류와 의미 분할 과제에서 평가된다.
확신의 독립 예
설명용으로 틀린 범주에 확률 0.99를 준 예측은 확신이 높아도 정확하지 않다. 분포를 부드럽게 만든다고 참 범주가 저절로 확인되는 것도 아니다. 실제 연구 수치를 옮기지 않은 과신과 정확도의 구분이다.
관련 문서
CBST / ProDA 도메인 적응 / DAFormer / DACS / 도메인 적응 / 의미 분할