위키득계정 ↗
기술

T3A

발표
NeurIPS 2021
영문 이름
Test-time Template Adjuster
변경 부분
마지막 선형 분류기
학습 방식
역전파 불필요
T3A는 시험 자료로 클래스별 의사 프로토타입을 만들고 선형 분류기를 조정하는 도메인 일반화 방법이다. 신경망 전체의 역전파 없이 시험 단계에서 분류 기준을 바꾼다.

시험 단계의 분류기 조정

학습 단계의 일반화 방법과 달리 시험 단계에서 모델의 예측을 스스로 보정하는 데 초점을 둔다. 학습한 모델의 마지막 선형 계층만 바꾸는 모듈로 제시됐다.

클래스별 의사 프로토타입

원천에서 학습한 기본 분류기와 온라인 무정답 자료를 이용해 각 클래스의 대표 표현을 계산한다. 새 예시는 이 의사 프로토타입들과의 거리를 기준으로 분류한다.

역전파 없는 적응

분류 기준을 조정할 때 역전파를 사용하지 않는다. 신경망을 확률적 최적화로 갱신하는 접근과 다른 계산 구성이며 시험 자료에서 얻은 지식을 분류기에 반영한다.

여러 모델과 자료의 평가

PACS와 VLCS 및 OfficeHome과 TerraIncognita에서 평가했다. ResNet과 BiT 및 비전 트랜스포머와 MLP-Mixer 등 서로 다른 기반 신경망을 함께 비교했다.

관련 문서

LAME 시험 시점 적응 / MEMO 시험 시점 적응 / Tent 시험 시점 적응 / SHOT / DomainBed / MME 반지도 도메인 적응