유닛에 의미 붙이기
다양한 시각 개념 자료를 바탕으로 중간 합성곱 층의 유닛에 의미 점수를 부여한다. 물체와 부분, 장면, 질감, 재료 및 색상 등 여러 개념을 대상으로 한다.
학습 과제의 비교
지도 학습과 자기 지도 학습의 서로 다른 과제를 해결하도록 학습한 신경망의 잠재 표현을 비교했다. 유닛의 해석 가능성을 무작위 선형 조합과 비교하는 가설도 조사했다.
구조와 학습의 영향
학습 반복과 초기화, 신경망의 깊이와 너비를 바꿔 해석 가능성을 분석했다. 드롭아웃과 배치 정규화의 효과도 살펴보며 분류 성능 외의 표현 특성을 조사했다.
관련 문서
TCAV / ACE 개념 설명 / 개념 백색화 / 뉴런 적분 기울기 / GAN Dissection / Zennit 분석 도구