위키득계정 ↗
기술

MiSLAS

MiSLAS기술
발표
CVPR 2021
핵심 문제
클래스별 확률 과신
레이블 구성
Label-aware Smoothing
정규화 구성
Shifted Batch Normalization
MiSLAS는 레이블 인식 평활화와 이동 배치 정규화로 긴 꼬리 인식의 확률 보정을 개선하는 두 단계 방법이다. 클래스별 과신과 단계 사이의 자료 편향을 함께 다룬다.

정확도와 확률의 보정

표현과 분류기를 분리하면 긴 꼬리 성능이 개선될 수 있어도 예측 확률이 실제 정확도와 잘 맞지 않는 문제가 남는다. 연구는 클래스 예시 수와 예측 확률 분포의 관계에 주목했다.

레이블 인식 평활화

클래스마다 다른 과신 정도에 대응하는 레이블 인식 평활화를 제안했다. 분류기 학습에서 범주별 확률의 보정을 개선하려는 구성이다.

단계 간 통계의 이동

서로 다른 표본 추출기를 쓰는 두 단계 사이에는 자료 편향이 생길 수 있다. 분리 학습 프레임워크에 이동 배치 정규화를 도입해 이 차이를 다룬다.

긴 꼬리 벤치마크의 평가

CIFAR-10-LT와 CIFAR-100-LT 및 ImageNet-LT와 Places-LT 및 iNaturalist 2018에서 평가했다. 정확도와 함께 과신 및 확률 보정을 살피는 연구다.

관련 문서

균형 대조 학습 / 긴 꼬리 인식의 표현과 분류기 분리 / BBN / LDAM / 긴 꼬리 학습의 로짓 조정 / 온도 스케일링