코어셋 선택의 비교
코어셋은 정보가 많은 학습 예시의 부분 집합을 선택하려는 문제다. 효율적인 학습과 연속 학습, 구조 탐색 및 능동 학습 등 여러 과제에 연결된다.
심층 학습의 조건
일부 기존 방법은 심층 학습을 전제로 설계되지 않아 계산 복잡도와 일반화가 문제가 될 수 있다. 새 방법들도 서로 다른 모델과 자료 및 설정에서 평가되면 비교가 어려워진다.
공통 구현과 실험
DeepCore는 이러한 비교를 돕는 코드 라이브러리와 함께 널리 쓰이는 코어셋 선택 방법의 실험을 제시했다. CIFAR-10과 ImageNet에서 선택 전략을 평가했다.
무작위 기준선
원 연구에서는 방법마다 유리한 설정이 있었지만 무작위 선택도 여전히 강한 기준선으로 나타났다. 부분 집합 선택의 이득을 판단할 때 기준선과 실험 조건을 함께 고려할 필요를 보여준다.
관련 문서
CRAIG / GRAD-MATCH / GLISTER / Data Diet / 데이터셋 양자화 / OpenDataVal