휴리스틱을 넘어서는 기준
영상 현저성 방법은 신경망이 어느 부분에서 예측 근거를 얻는지 표시한다. 원 연구는 일부 방법의 휴리스틱 성격과 구조 제약을 지적하고 해석 가능한 변화에 기반한 설명을 제안했다.
설명을 학습하는 관점
여러 종류의 블랙박스 알고리즘 설명을 학습하는 일반 프레임워크를 구성한다. 그중 영상 분류기의 결정에 가장 중요한 부분을 찾는 문제로 접근을 구체화했다.
검사 가능한 섭동
설명의 근거를 명시적인 영상 변화에 두어 모델 반응으로 검사할 수 있도록 한다. 단순히 시각적으로 그럴듯한 영역을 보여주는 것과 구분해 섭동의 의미를 설명 기준으로 삼는다.
관련 문서
극값 섭동 설명 / RISE 설명 지도 / LIME / SHAP / ROAR 설명 평가 / Quantus