정답 귀속의 부재
영상에서 어떤 부분이 모델 결정에 영향을 줬는지 설명하더라도 정답 귀속을 알기 어려워 평가가 복잡하다. 이 연구는 설명의 여러 측면을 나눠 검토하는 세 구성을 제시했다.
입력 영향을 통제하기
DiFull은 입력의 어느 부분이 출력에 영향을 줄 수 있는지 통제하는 설정이다. 가능한 귀속과 불가능한 귀속을 구분해 설명의 충실성을 평가한다.
같은 층에서 비교하기
설명 방법을 서로 다른 층에 적용하면 비교 결과가 달라질 수 있다. ML-Att는 같은 층에서 방법들을 평가해 층 선택이 정량 지표에 주는 영향을 조사한다.
자료 집합의 시각적 검토
AggAtt는 자료 집합 전체에서 방법을 정성적으로 평가하는 시각화 구성이다. 원 연구는 이러한 기준으로 여러 귀속 방법의 장단점과 후처리 평활화의 효과를 분석했다.
관련 문서
Sensitivity-n / Quantus / 현저성 지도의 무작위화 검사 / ROAR 설명 평가 / Grad-CAM / Captum