개념을 거치는 예측
원시 입력에서 곧바로 최종 레이블을 예측하는 대신 개념 예측을 중간에 둔다. 학습 때 제공한 높은 수준의 개념을 통해 최종 판단에 이르는 구조다.
수정 가능한 중간 값
모델이 예측한 개념 값을 바꾸면 그 변화가 최종 예측에 전달된다. 모델이 특정 특징을 잘못 인식했을 때 이를 고치면 결과가 어떻게 달라지는지 확인할 수 있다.
해석과 상호작용
개념은 예측의 중간 근거를 사람이 이해할 단위로 나타낸다. 사후 설명만 제공하는 것에서 나아가 개념 수준에서 모델과 상호작용하도록 구성했다.
원 연구의 평가
엑스레이 등급 평가와 새 식별 과제에서 정확도를 비교했다. 시험 시 개념 예측의 오류를 수정할 수 있는 조건에서 최종 정확도의 변화도 조사했다.
관련 문서
ProtoPNet / TCAV / ACE 개념 설명 / 적분 기울기 / Grad-CAM / ROAR 설명 평가