비충실도의 계산
관심 있는 입력 섭동과 특징 설명의 내적으로 출력 변화를 예측한다. 이 값과 실제 모델 출력 변화 사이의 제곱 오차를 섭동 분포에 대해 평균한 값이 비충실도다.
안정성만의 한계
입력이 바뀌어도 설명이 변하지 않으면 민감도는 낮아진다. 그러나 항상 같은 상수 설명도 가장 낮은 민감도를 얻을 수 있어 안정성 하나만으로 유용한 설명을 평가할 수는 없다.
섭동 분포와 설명
비충실도를 정의하는 섭동 분포를 바꿔 다른 설명을 얻는 접근을 분석했다. 어떤 변화에 대해 설명이 정확해야 하는지를 평가 조건에 명시하는 관점이다.
평활화의 효과
설명을 적절하게 평활화하면 민감도와 비충실도를 함께 낮출 수 있는 조건을 조사했다. 단순히 설명을 매끄럽게 보이게 하는 것과 모델 변화에 충실한지는 함께 검토해야 한다.
관련 문서
Sensitivity-n / SmoothGrad / 적분 기울기 / Quantus / 설명 지도의 기하적 민감도 / 귀속 방법의 공정 평가