단순 관찰 수의 한계
일부 클래스에 대부분의 예시가 몰리고 많은 클래스에는 예시가 적은 긴 꼬리 자료를 다룬다. 원 연구는 같은 범주의 관찰이 늘어도 정보가 같은 비율로 늘지는 않는다는 관점에서 출발했다.
주변 영역의 중첩
각 예시를 점 하나가 아니라 작은 주변 영역으로 보고 자료 중첩을 측정한다. 유효 표본 수는 이런 예시들이 차지하는 부피의 관점으로 정의된다.
유효 수로 손실 재가중
범주별 유효 표본 수를 계산해 손실의 균형을 맞춘다. 조절 매개변수를 사용해 실제 관찰 수와 중복 정보가 반영된 유효 수의 관계를 정한다.
긴 꼬리 자료의 평가
인위적으로 불균형을 만든 CIFAR와 ImageNet 및 iNaturalist에서 평가했다. 자료의 원시 개수만으로 가중하는 방식과 다른 균형 기준을 제시한 연구다.
관련 문서
LDAM / iNaturalist 2017 데이터셋 / iWildCam 2020 / 대규모 증분 학습의 편향 보정 / 메타 학습 기반 예시 재가중 / Meta-Weight-Net