시험 자료로 적응하기
학습 자료를 다시 가져오지 않고 시험 데이터와 모델 자신의 매개변수만 있는 완전한 시험 시점 적응을 다룬다. 새로운 분포에 맞춰 응답하는 과정에서 모델을 갱신하는 접근이다.
예측의 엔트로피 최소화
예측 분포의 엔트로피로 측정한 확신을 높이는 방향으로 최적화한다. 정답 레이블을 추가로 받는 대신 현재 시험 입력에 대한 모델의 예측을 적응 신호로 사용한다.
제한된 매개변수의 갱신
배치마다 정규화 통계를 추정하고 채널별 아핀 변환을 조정한다. 모든 가중치를 처음부터 다시 학습하는 것이 아니라 정규화와 관련된 요소를 온라인으로 적응시키는 구성이다.
분류와 분할의 평가
초기 연구는 오염된 ImageNet과 CIFAR의 분류 및 원천 자료 없는 도메인 적응을 평가했다. 숫자 인식과 의미 분할 등에서도 한 에포크의 시험 시점 최적화를 수행했다.
관련 문서
시험 시점 자기지도 학습 / DomainBed / WILDS / ImageNet 오염과 교란 평가 / TPT 평가 시점 프롬프트 조정 / 기계 학습