모델을 거꾸로 묻기
일반적인 분류가 입력의 클래스를 구한다면 역분류는 결과를 바꾸기 위해 입력이 어떻게 달라져야 하는지 묻는다. 이 연구는 분류기의 내부나 학습 및 시험 자료에 관한 정보가 없는 설명 상황을 다뤘다.
가까운 다른 예측
설명할 입력 주변에서 관측을 생성해 다른 클래스로 분류되는 가까운 이웃을 찾는다. 거리의 정의에는 희소성 제약이 들어가므로 다른 예측을 얻는다는 조건과 입력 변화의 간결함을 함께 다룬다.
실험의 범위
원 연구는 두 자료에서 이 접근의 관련성을 평가했다. 결과 입력을 원래 입력과 비교해 분류기 행동에 관한 정보를 얻는 방식이며 내부 계산을 직접 해설하는 방법과는 구분된다.
관련 문서
반사실 설명 / FACE 반사실 설명 / DiCE 반사실 설명 / 프로토타입 기반 반사실 설명 / LIME / 정의 기반 설명 평가