상위 계층의 전이 문제
깊은 신경망의 특징은 계층을 올라가며 일반적인 표현에서 특정 과제에 맞춘 표현으로 바뀐다. 연구는 이런 상위 계층에서 영역 차이가 커지고 전이성이 낮아지는 문제를 다뤘다.
커널 공간의 평균 임베딩
과제에 특화된 계층들의 은닉 표현을 재생산 커널 힐베르트 공간으로 보낸다. 이 공간에서 원천과 목표 분포의 평균 임베딩을 명시적으로 맞추는 구성을 사용한다.
여러 커널의 선택
하나의 고정된 커널에만 의존하는 대신 평균 임베딩 정렬을 위한 다중 커널 선택을 결합한다. 자료의 영역 차이를 줄이는 데 적합한 비교 방식을 학습에 반영한다.
추정과 학습 규모
커널 임베딩의 불편 추정을 이용해 계산이 자료 규모에 선형적으로 증가하도록 구성했다. 초기 평가는 표준 도메인 적응 이미지 분류 벤치마크에서 이뤄졌다.
관련 문서
JAN 도메인 적응 / Deep CORAL / CDAN / 도메인 적대 신경망 / MCC 도메인 적응 / DomainBed