구조와 학습 전략을 함께 보기
합성 자료로 학습한 분할망을 실제 영상에 주석 없이 적응시킬 때 적응 기법뿐 아니라 기본 네트워크 구조도 중요하다. DAFormer는 여러 구조를 비교한 결과를 바탕으로 트랜스포머 인코더와 문맥 융합 디코더를 구성한다.
자주 나오는 범주의 편향
소스 자료에서 희귀 범주를 표본화하는 전략은 자기 학습의 의사 레이블이 흔한 범주로 치우치는 확인 편향을 완화하려 한다. 자료에서 드문 범주를 더 보게 하는 것과 타깃 정답 주석을 제공하는 것은 다르다.
사전 학습 특징의 전이
사물 범주에 대한 ImageNet 특징 거리와 학습률 워밍업은 사전 학습 특징의 전이를 돕는다. 훈련 안정성과 소스 도메인에 대한 과적합 방지를 함께 고려하는 설계다. 한 요소의 효과를 전체 구성의 결과와 혼동하지 않아야 한다.
편향의 독립 예
설명용으로 의사 레이블이 도로만 반복하고 작은 버스를 놓치면 그 예측으로 다시 학습해도 누락이 이어질 수 있다. 희귀 범주를 학습에서 다루는 이유를 보여 준다. 실제 실험 수치를 옮기지 않은 자기 학습 편향의 예다.