위키득계정 ↗
기술

SCAL 능동 학습

SCAL 능동 학습기술
공개
2021년
발표
ICML 2021 워크숍
영문 이름
Supervised Contrastive Active Learning
관련 방법
Deep Feature Modeling
SCAL은 지도 대조 손실을 활용해 다양한 특징 표현을 가진 유용한 예시를 고르는 능동 학습 방법이다. 자료 선택의 편향을 줄이고 분포 변화에 대한 강건성을 높이는 방향을 조사한다.

표본 선택의 편향

능동 학습에서는 선택한 자료가 특정 영역에 치우칠 수 있다. 이 연구는 정보성이 있으면서 특징 표현이 다양한 예시를 고르는 질의 전략으로 접근했다.

지도 대조 학습

지도 설정의 능동 학습에 대조 손실을 활용하는 SCAL과 심층 특징 모델링인 DFM을 제안했다. 두 방법으로 선택 편향과 자료 표현의 다양성을 조사했다.

강건성과 계산 평가

원 연구는 정확도와 보정 성능, 질의 계산 비용을 비교했다. SCAL의 자료 이동 및 분포 밖 설정에 대한 강건성도 실험했으며 결과는 조사한 모델과 자료 조건에 관한 것이다.

관련 문서

CAL 대조 능동 학습 / BADGE 능동 학습 / ALFA-Mix / TypiClust / ProbCover / 신경망 능동 학습의 재현성