예측 뒤의 시각적 설명
이미 학습된 합성곱 신경망의 판단을 영상 영역으로 설명하려는 방법이다. 클래스 활성화 지도를 기반으로 어떤 영역이 목표 범주와 관련되는지 나타낸다.
기울기 대신 점수
각 활성화 지도에 대한 가중치를 목표 범주의 순전파 점수에서 얻는다. 지도 가중치를 계산할 때 기울기에 의존하지 않는다는 점이 주요 특징이다.
지도의 결합
얻은 가중치와 활성화 지도를 선형 결합해 최종 설명 지도를 만든다. 설명은 선택한 목표 범주에 대한 모델의 반응을 시각적으로 나타낸다.
평가와 활용
원 연구는 인식과 위치 추정 과제에서 기존 방법과 비교하고 설명의 타당성 검사도 수행했다. 모델의 동작을 살펴보는 디버깅 도구로서의 활용 가능성도 제시했다.
관련 문서
클래스 활성화 지도 / ReCAM / SEAM / Puzzle-CAM / AdvCAM 분할 / 비판별 특징 활성화 지도