클래스 대표점의 역할
이 방법은 분류 예측의 반사실을 찾을 때 클래스 프로토타입을 사용한다. 인코더로 얻은 표현이나 클래스별 k-d 트리를 통해 대표점을 구성해 탐색의 방향을 제공한다.
탐색과 계산 비용
원 연구에서는 대표점을 사용하는 구성이 반사실 탐색을 빠르게 하고 해석 가능한 설명을 만드는 데 기여했다. 블랙박스 모델의 수치적 기울기를 평가하는 과정에서 생기는 계산 병목도 다뤘다.
해석 가능성의 측정
개별 입력 수준의 국소 해석 가능성을 정량화하는 두 지표를 제안했다. MNIST 영상과 Breast Cancer Wisconsin 표 자료를 사용해 평가했으며 결과는 해당 자료와 실험 구성에서 확인한 성질이다.
관련 문서
반사실 설명 / DiCE 반사실 설명 / FACE 반사실 설명 / k-d 트리 / 오토인코더 / 개념 병목 모델