학습에 포함된 설명
학습을 마친 모델에 나중에 설명을 붙이는 대신 예측 구조에 설명의 역할을 넣는다. 단순한 선형 분류기에서 시작해 더 복잡한 모델로 점진적으로 확장했다.
입력에 따른 계수
계수가 입력에 따라 달라지도록 해 표현력을 높인다. 가까운 입력에서는 계수도 크게 달라지지 않도록 제한해 국소적으로 선형 모델처럼 해석할 수 있게 한다.
설명의 안정성
원 연구는 명시성, 충실성, 안정성을 설명의 기준으로 제안했다. 모델에 맞게 설계한 정규화로 예측과 설명의 관계 및 유사한 입력 사이의 일관성을 다룬다.
개념과 평가
개별 픽셀 대신 해석 가능한 기초 개념을 사용하는 방향으로도 확장했다. 여러 벤치마크에서 복잡한 예측과 이해 가능한 설명을 함께 얻는 가능성을 평가했다.
관련 문서
개념 백색화 / 개념 병목 모델 / ProtoTree / TCAV / ACE 개념 설명 / ROAR 설명 평가