잠재 공간의 해석
신경망 내부 축이 사람이 관심을 가진 개념과 직접 대응한다고 가정하기는 어렵다. 개념 백색화는 층의 표현을 조정해 개념이 어떻게 나타나는지 살펴보려는 접근이다.
정규화와 비상관화
배치 정규화의 대안으로 제시한 모듈은 잠재 공간을 정규화하면서 특징 사이의 상관도 줄인다. 이런 비상관화 과정이 백색화다.
개념에 맞춘 축
잠재 공간의 축을 알려진 관심 개념과 정렬한다. 신경망의 여러 층을 거치며 개념이 점진적으로 학습되는 모습을 분석하도록 설계했다.
예측과 해석의 평가
합성곱 신경망의 여러 층에 모듈을 적용하는 구성을 조사했다. 원 연구는 영상 인식의 예측 성능과 층별 개념 이해를 함께 평가했다.
관련 문서
SENN / 개념 병목 모델 / 레이블 없는 개념 병목 모델 / TCAV / ACE 개념 설명 / ProtoTree