레이블 예산의 활용
모든 자료에 레이블을 붙이기 어렵다면 모델이 틀릴 가능성이 있는 자료를 우선 조사할 수 있다. 이 방법은 미표기 입력의 목표 손실을 추정하는 방식으로 그 대상을 제안한다.
손실 예측 모듈
목표 신경망에 작은 매개변수 모듈을 연결한다. 이 모듈이 입력에 대한 목표 모델의 손실을 예측하도록 학습해 능동 학습의 선택에 사용한다.
여러 과제의 공통 기준
신경망은 과제가 달라도 손실을 줄이는 방식으로 학습한다는 점을 활용한다. 분류에만 특화된 예측 출력 대신 손실을 공통적인 선택 신호로 다루려는 구성이다.
평가 과제
영상 분류와 물체 검출, 사람 자세 추정에서 여러 신경망 구조로 검증했다. 예측 손실은 실제 오류를 확정하는 값이 아니라 주석할 자료를 고르는 모델 기반 추정치다.
관련 문서
BADGE 능동 학습 / BAIT 능동 학습 / 코어셋 기반 능동 학습 / GLISTER / Data Diet / Dataset Cartography