다른 결과를 만드는 조건
2017년 연구는 원하는 결과를 얻는 가까운 가상 상황을 제시하는 설명을 논의했다. 내부의 모든 계산을 공개하지 않더라도 결과를 바꾸는 작은 변화를 설명할 수 있다는 접근이다.
설명이 지원하는 목적
연구는 설명의 목적을 현재 결정의 이해, 원하지 않는 결과에 대한 이의 제기, 앞으로 다른 결과를 얻기 위한 변화의 이해로 나눴다. 무엇을 돕는 설명인지에 따라 필요한 내용도 달라진다.
내부 해설과의 차이
이 방식에서 제시하는 것은 현재 모델에서 결과가 달라지는 입력이다. 모델의 내부 논리를 모두 풀어 쓰는 작업과는 설명의 형식과 초점이 다르다.
관련 문서
설명 충실도와 사용자 신뢰 / 정의 기반 설명 평가 / LIME / SHAP / 개념 병목 모델 / 충분 입력 부분 집합