위키득계정 ↗
기술

ProDA 도메인 적응

ProDA 도메인 적응기술
프로토타입
범주별 특징의 중심
레이블 보완
특징 거리 기반 온라인 수정
구조 학습
같은 타깃의 두 뷰 할당 정렬
후속 학습
자기 지도 사전 학습 모형으로 지식 증류
ProDA는 범주별 특징 중심인 프로토타입과의 거리를 이용해 의사 레이블을 수정하고 타깃 특징 구조를 학습하는 도메인 적응 분할 방법이다. 서로 다른 두 시점의 표현을 정렬해 타깃 특징을 더 조밀하게 만들려 한다.

의사 레이블과 특징의 문제

자기 학습에서는 타깃 의사 레이블의 잡음과 소스 및 타깃 차이로 흩어진 특징이 문제가 될 수 있다. ProDA는 범주를 대표하는 특징 중심인 프로토타입을 이용해 두 문제를 함께 다룬다.

거리로 레이블을 보완하기

프로토타입 자체뿐 아니라 프로토타입과의 특징 거리가 제공하는 정보를 이용한다. 의사 레이블의 가능도를 추정해 학습 도중 온라인으로 수정하는 데 활용한다. 가까운 중심이 항상 실제 정답 범주라는 보장은 아니다.

타깃 구조의 정렬

같은 타깃의 서로 다른 두 뷰에서 상대 특징 거리에 따른 프로토타입 할당을 정렬한다. 더 조밀한 타깃 특징 공간을 만드는 목표다. 이미 학습한 지식을 자기 지도 사전 학습 모형으로 증류하는 구성도 다룬다.

잘못된 중심의 독립 예

설명용으로 버스 특징이 이미 트럭 쪽 중심에 가깝게 학습됐다면 거리만으로 만든 판단도 틀릴 수 있다. 중심의 대표성과 현재 특징의 신뢰도를 함께 살펴야 한다. 실제 실험 수치를 옮기지 않은 프로토타입 해석의 예다.

관련 문서

도메인 적응 / DAFormer / DACS / MIC 도메인 적응 / Refign / 의미 분할