Zennit의 귀속 계산
Zennit은 PyTorch에서 층별 관련성 전파인 LRP와 관련 접근을 구현한 귀속 프레임워크다. 분석 목적에 맞춰 구성을 바꾸는 기능을 중심으로 제시됐다.
CoRelAy의 자료 집합 분석
CoRelAy는 설명 결과를 자료 집합 전체에서 정량 분석하는 파이프라인을 구성한다. 개별 예시의 수작업 해석을 넘어 여러 자료의 공통 패턴을 조사하도록 돕는다.
ViRelAy의 탐색
ViRelAy는 자료와 귀속 결과 및 분석 결과를 대화형으로 탐색하는 웹 응용이다. 계산한 설명과 정량 분석을 사용자가 살펴보는 과정을 연결한다.
공통 구현의 목적
원 연구는 세 도구를 표준화된 설명 분석 구현으로 제안했다. 도구별 역할을 나누면서 자료 집합 단위 분석의 재현성을 높이는 기반을 제공하려는 구성이다.