클래스 개념의 합성
클래스 점수가 커지는 영상을 생성해 합성곱 신경망이 포착한 클래스 개념을 시각화한다. 하나의 실제 영상에서 중요한 부분을 찾는 작업과는 구분되는 분석이다.
영상별 현저성 지도
주어진 영상과 클래스에 대해 현저성 지도를 계산한다. 클래스 점수의 입력 기울기를 사용해 어떤 입력 변화에 출력이 민감한지 분석한다.
분할과 다른 시각화의 연결
원 연구는 이 지도를 분류 신경망을 이용한 약한 감독 물체 분할에 활용했다. 기울기 기반 시각화와 역합성곱 신경망 사이의 연결도 조사했다.
관련 문서
영상 표현 역변환 / Grad-CAM / SmoothGrad / 적분 기울기 / FullGrad / DeepLIFT