위키득계정 ↗
기술

RMT 시험 시점 적응

RMT 시험 시점 적응기술
연구 공개
2022년
발표 학회
CVPR 2023
영문 이름
Robust Mean Teacher
일관성 손실
대칭 교차 엔트로피
RMT는 평균 교사 모델에 대칭 교차 엔트로피와 대조 학습을 활용하는 지속적 시험 시점 적응 방법이다. 여러 영역이 이어지거나 점진적으로 변하는 시험 흐름을 다룬다.

지속적 변화와 점진적 변화

지속적 적응은 한 번의 영역 변화 대신 연속적인 변화들을 다룬다. 점진적 적응은 일부 변화가 시간에 따라 서서히 일어난다는 성질도 활용하며 긴 흐름에서 자기 학습 오류가 누적되는 문제가 있다.

대칭 교차 엔트로피

RMT는 평균 교사 모델의 일관성 손실에 대칭 교차 엔트로피를 사용한다. 연구는 일반 교차 엔트로피와의 기울기 특성을 분석해 선택의 근거를 제시했다.

원천 쪽으로 특징 정렬

대조 학습으로 시험 특징 공간을 사전 학습 모델이 잘 작동하는 원천 영역에 가깝게 끌어당긴다. 원천 자료를 사용할 수 있는 조건과 원천 자료 없는 조건을 모두 다뤘다.

여러 오염 흐름의 평가

CIFAR10C와 CIFAR100C 및 ImageNet-C의 지속적이고 점진적인 오염을 평가했다. ImageNet-R과 새로 구성한 지속적 DomainNet-126 벤치마크도 포함했다.

관련 문서

Mean Teacher / CoTTA / ROID 시험 시점 적응 / GTTA / EcoTTA / 대칭 교차 엔트로피