개별 중요도의 한계
어떤 특징이 중요하다는 사실만으로 모델 행동을 충분히 이해하기 어려울 수 있다. 특징들이 모델 안에서 어떻게 함께 작용하는지를 보면 특정 특징이 중요한 이유를 더 살펴볼 수 있다.
쌍별 상호작용의 설명
적분 헤시안은 적분 기울기를 확장해 신경망의 쌍별 특징 상호작용을 설명한다. 원 연구는 기존 상호작용 설명의 이론적 한계를 다루며 특정 신경망 구조에 한정되지 않는 접근을 제시했다.
계산과 벤치마크
특징 수가 많은 상황에서 기존 방법과 계산 속도를 비교했다. 정량 벤치마크에서 상호작용 설명의 품질을 평가했으며 개별 특징 귀속과 다른 분석 단위를 다룬다.