위키득계정 ↗
기술

JAN 도메인 적응

JAN 도메인 적응기술
연구 공개
2016년
발표 학회
ICML 2017
영문 이름
Joint Adaptation Networks
정렬 기준
Joint Maximum Mean Discrepancy
JAN은 신경망의 여러 영역별 계층이 이루는 결합 분포를 정렬하는 전이 학습 방법이다. 결합 최대 평균 불일치라는 기준을 사용해 원천과 목표 영역을 비교한다.

계층 사이의 관계

여러 계층의 표현은 각각의 분포뿐 아니라 함께 나타나는 관계도 가진다. JAN은 영역에 특화된 계층들을 함께 고려한 결합 분포를 도메인 적응의 대상으로 삼는다.

결합 최대 평균 불일치

JMMD는 여러 계층의 결합 분포를 비교하는 학습 기준이다. JAN은 이 기준으로 원천과 목표의 차이를 측정하고 두 영역의 표현을 정렬한다.

차이를 드러내는 적대 학습

연구는 JMMD를 최대화하는 적대적 학습 전략도 사용한다. 원천과 목표의 차이를 더 잘 구분하는 비교를 구성해 전이 네트워크 학습에 활용한다.

역전파를 통한 최적화

기울기는 역전파로 계산하며 확률적 경사 하강법으로 학습한다. 연구는 선형 시간 계산 구성과 표준 데이터셋에서의 평가를 제시했다.

관련 문서

DAN 도메인 적응 / CDAN / Deep CORAL / ADDA / MCD 도메인 적응 / DomainBed