면적을 고정한 비교
큰 영역을 바꾸면 출력에 미치는 영향도 커질 수 있다. 이 방법은 같은 고정 면적의 섭동 중 출력에 최대 영향을 주는 것을 찾아 크기와 효과의 관계를 명확하게 다룬다.
부드러운 마스크
최소한의 부드러움을 보장하는 섭동 계열 안에서 최적화한다. 면적 제약을 적용하고 면적을 바꾸며 출력 변화가 어떻게 달라지는지 조사한다.
중간 층의 귀속
입력 영상뿐 아니라 중간 활성값에도 섭동 분석을 확장했다. 분류에 중요한 채널을 찾고 특징 역변환과 결합해 모델 행동을 살펴보는 구성을 제시했다.
해석 도구
원 연구는 PyTorch 기반 해석 라이브러리 TorchRay도 소개했다. 섭동의 영향이라는 기준으로 설명을 정의하고 영상의 위치 및 중간 표현을 분석하는 접근이다.
관련 문서
RISE 설명 지도 / Grad-CAM / FullGrad / Captum / Zennit 분석 도구 / ROAR 설명 평가