성질의 정의
크기가 n인 임의의 특징 부분 집합에 대해 귀속값의 합이 그 특징을 제거한 출력 변화와 같으면 Sensitivity-n을 만족한다. 원 연구에서는 제거를 해당 입력을 영으로 바꾸는 방식으로 표현했다.
완전성과의 관계
전체 특징 수와 n이 같으면 출력과 기준 입력 출력의 차이에 귀속값 합이 일치하는 완전성 성질로 이어진다. 개별 특징에 하나의 값만 주는 방식은 비선형 상호작용 전체를 담는 데 한계가 있다.
평가의 근사
모든 부분 집합을 조사하기 어려우므로 무작위로 특징 집합을 추출한다. 귀속값 합과 실제 출력 변화 사이의 상관관계를 여러 n에서 측정해 설명 방법을 비교한다.
이론과 실험의 연결
원 연구는 네 기울기 기반 방법의 동등 및 근사 조건도 분석했다. 영상과 텍스트 분류에서 여러 구조를 평가하며 방법마다 설명하는 효과가 달라질 수 있음을 조사했다.
관련 문서
적분 기울기 / DeepLIFT / 적분 헤시안 / ROAR 설명 평가 / Quantus / 귀속 방법의 공정 평가