위키득계정 ↗
기술

마스크 오토인코더 시험 시점 학습

마스크 오토인코더 시험 시점 학습기술
발표
NeurIPS 2022
학습 시점
각 시험 입력을 받은 뒤
자기지도 과제
가려진 패치 복원
공개 구성
입력 패치의 75퍼센트 마스킹
마스크 오토인코더 시험 시점 학습은 각 시험 이미지를 자기지도 복원 과제로 학습해 새로운 분포에 적응하는 방법이다. 하나의 입력에 대한 학습을 마스크 오토인코더로 수행한다.

하나의 시험 입력에서 학습

시험 시점 학습은 새 분포의 입력을 받았을 때 자기지도 목적으로 모델을 최적화한다. 이 연구는 여러 정답 예시를 새로 모으는 대신 한 시험 이미지의 학습 문제를 다룬다.

가려진 이미지의 복원

마스크 오토인코더를 사용해 시험 이미지를 재구성한다. 공개한 설명에서는 입력 패치의 75퍼센트를 가리고 남은 정보로 복원하는 과정을 사용한다.

복원과 인식의 연결

최적화하는 자기지도 과제는 이미지 복원이지만 평가하는 주된 과제는 객체 인식이다. 연구는 여러 분포 변화 시각 벤치마크에서 이런 학습의 일반화 효과를 조사했다.

편향과 분산의 관점

이론 분석은 개선을 편향과 분산 사이의 상충 관계로 설명한다. 각 입력에서 수행하는 적응이 일반화를 어떻게 바꿀 수 있는지 분석한 것이다.

관련 문서

시험 시점 자기지도 학습 / Tent 시험 시점 적응 / MEMO 시험 시점 적응 / CoTTA / EATA 시험 시점 적응 / ImageNet 오염과 교란 평가