비선형 결정의 해석
다층 비선형 구조는 신경망의 예측이 어떻게 나왔는지 이해하기 어렵게 만들 수 있다. 이 방법은 분류 결정을 입력 요소별 기여로 나눠 살펴보는 관점을 제안했다.
출력에서 입력으로
심층 테일러 분해에 기반해 신경망 구조를 활용한다. 설명을 출력 층에서 입력 층으로 역방향 전달하며 개별 입력 요소의 기여를 계산하는 구성이다.
영상 분류의 평가
원 연구는 영상 분류에 초점을 맞춰 MNIST와 ILSVRC에서 평가했다. 입력 자료와 학습 과제 및 신경망 구조로 적용 범위를 넓히는 방향도 제시했다.
관련 문서
DeepLIFT / 적분 기울기 / Grad-CAM / Captum / Zennit 분석 도구 / Quantus