기준 활성값과의 차이
각 뉴런의 활성값을 기준 활성값과 비교한다. 이 차이에 따라 기여 점수를 할당해 현재 출력이 어떤 입력 특징과 연결되는지 분석한다.
기여의 역방향 전달
네트워크의 뉴런 기여를 출력에서 입력 특징 쪽으로 역전파한다. 양의 기여와 음의 기여를 별도로 고려하는 구성으로 다른 접근이 놓칠 수 있는 의존성을 조사한다.
계산과 실험
점수는 한 번의 역방향 전달로 효율적으로 계산할 수 있도록 제시됐다. 원 연구는 MNIST와 모의 유전체 자료로 학습한 모델에서 기울기 기반 방법과 비교했다.