제거만으로 평가하는 문제
입력의 일부를 없앤 뒤 기존 모델의 정확도가 낮아져도 제거한 정보가 중요해서인지 낯선 분포가 되어 그런지 분명하지 않다. ROAR는 재학습으로 이 문제를 다룬다.
자료를 함께 수정하기
설명 방법이 중요하다고 추정한 일정 비율의 픽셀을 고정된 값으로 바꾼다. 학습 자료와 시험 자료 모두에 이 수정을 적용한다.
다시 학습한 뒤 비교
수정된 자료에서 새 모델을 학습하고 정확도가 얼마나 낮아지는지 평가한다. 중요한 정보를 더 잘 찾았다면 그 정보를 제거한 뒤 성능 하락도 더 크게 나타날 것으로 본다.
기준과 계산 비용
무작위 중요도와 경계 검출 기준도 함께 비교했다. 여러 대규모 이미지 자료에서 설명 및 앙상블 방식의 결과를 조사했으며 평가에는 모델 재학습의 비용이 든다.
관련 문서
현저성 지도의 무작위화 검사 / 적분 기울기 / SmoothGrad / Grad-CAM / Score-CAM / 클래스 활성화 지도