블랙박스 모델의 설명
영상을 입력받아 클래스 확률을 내는 모델을 대상으로 한다. 신경망의 기울기나 내부 상태 대신 입력을 바꿨을 때 얻는 출력을 설명의 근거로 사용한다.
무작위 마스크의 활용
입력 영상을 여러 무작위 마스크로 가려 모델에 제공한다. 각 가려진 입력과 대응하는 출력을 이용해 픽셀의 중요도를 경험적으로 추정한다.
지도의 평가
원 연구는 삭제와 삽입 지표 및 사람이 주석한 물체 영역에 기반한 포인팅 지표로 비교했다. 여러 벤치마크에서 내부 접근이 가능한 설명 방법과도 성능을 조사했다.