의미 있는 근거의 부재
원 연구는 CIFAR-10과 ImageNet의 높은 성능 모델도 사람이 의미 있다고 보는 특징 없이 확신 높은 예측을 할 수 있음을 조사했다. 이런 패턴에서 지나치게 많은 클래스 근거를 찾는 행동을 과잉 해석으로 불렀다.
충분 입력의 탐색
복잡한 자료에서 충분 입력 부분 집합을 찾는 Batched Gradient SIS를 제안했다. 이를 활용해 ImageNet 영상의 가장자리 픽셀만으로도 학습과 시험이 가능한 설정을 조사했다.
통계 패턴과 일반화
이 현상은 원래 영상 픽셀을 바꾸지 않고도 나타나며 벤치마크에 실제로 존재하는 통계적 패턴을 활용한다. 원 연구는 앙상블과 입력 드롭아웃으로 현상을 줄일 수 있는지도 평가했다.
관련 문서
충분 입력 부분 집합 / 신경 예측의 근거 추출 / 입력 기울기 설명 정규화 / ERASER / RISE 설명 지도 / 귀속 방법의 공정 평가