설명할 개념의 발견
미리 개념을 모두 정하는 대신 자료에서 개념을 자동으로 찾는 것이 목적이다. 의미가 있으며 서로 일관되고 예측에 중요한 개념을 설명의 기준으로 삼았다.
이미지 부분의 수집
같은 범주의 이미지들을 여러 해상도로 분할해 부분 영상들을 모은다. 질감이나 색처럼 세밀한 정보부터 객체 부분과 객체 자체까지 여러 수준을 포착하려 한다.
관련 부분의 군집화
분류기의 활성화 공간에서 비슷한 부분들을 군집화한다. 다른 예시들과 거리가 먼 부분은 제외해 개념 안의 일관성을 높이도록 구성했다.
개념 중요도의 계산
추출한 개념의 예시로 TCAV 중요도를 계산해 주요 개념을 찾는다. 원 연구는 사람 대상 실험과 모델 실험으로 개념의 의미성과 예측 관련성을 평가했다.
관련 문서
TCAV / ROAR 설명 평가 / 현저성 지도의 무작위화 검사 / 적분 기울기 / 클래스 활성화 지도 / MCTformer