맞는 예측의 근거
모델이 예측을 맞혀도 기대하지 않은 규칙을 사용할 수 있다. 원 연구는 설명 도구로 문제를 발견하는 데서 더 나아가 모델 학습 과정에서 이를 조절하는 방법을 제안했다.
입력 기울기의 벌점
결정 경계의 법선 정보를 주는 입력 기울기를 살펴보고 선택적으로 벌점을 적용한다. 전문가 주석에 기반해 제약하거나 비지도 방식으로 서로 다른 경계를 가진 모델을 유도한다.
다른 조건에서의 일반화
여러 자료에서 설명과 일반화 성능을 평가했다. 학습과 시험 조건이 다를 때의 효과를 조사했으며 결과는 사용한 제약과 자료 설정에 따른 관찰이다.
관련 문서
클래스 점수 기울기 시각화 / 적분 기울기 / LIME / DeepLIFT / 설명 지도의 기하적 민감도 / Quantus