전체 기울기 표현
원 연구는 신경망 반응을 입력 민감도와 뉴런별 민감도 성분으로 분해하는 전체 기울기 표현을 제안했다. 입력에 대한 기울기만 보는 것보다 다양한 성분을 다루는 관점이다.
표현과 지도의 구분
합성곱 신경망에서는 전체 기울기 성분을 모아 근사 현저성 지도인 FullGrad를 구성한다. 원래의 전체 기울기 표현과 공간 지도 형태의 근사는 구분되는 대상이다.
정량적 평가
픽셀 섭동과 제거 후 재학습이라는 두 검사를 통해 모델 행동을 설명하는 데 유용한지 평가했다. 지도 모양의 선명함만으로 설명의 타당성을 판단하는 대신 모델 행동에 대한 검사를 함께 수행했다.
관련 문서
적분 기울기 / SmoothGrad / Grad-CAM / DeepLIFT / ROAR 설명 평가 / Quantus