의미 조합의 설명
단어와 구절이 결합해 생기는 의미를 모델이 어떻게 처리하는지 조사한다. 계층 안에서의 비가산성과 문맥 독립적인 중요도 귀속을 바람직한 성질로 제시했다.
일반적인 중요도 정식화
기존의 일부 계층적 설명이 이러한 성질을 수학적으로 만족하지 않아 모델마다 품질이 달라질 수 있음을 분석했다. 각 단어와 구절의 중요도를 정량화하는 일반적인 정식화를 제안했다.
표본 추출 기반 알고리즘
정식화에 따라 표본 추출과 문맥 분해를 결합한 SCD, 표본 추출과 가림을 결합한 SOC를 제안했다. LSTM과 BERT의 여러 자료에서 사람 평가와 지표 평가로 비교했다.
분석의 활용
모델이 포착한 의미 조합을 시각화하고 분류 규칙을 추출하는 활용을 제시했다. 개별 단어 점수를 넘어 구절과 그 조합의 관계를 분석하는 접근이다.
관련 문서
문맥 분해 / 적분 헤시안 / 신경망 가중치의 상호작용 탐지 / 적분 기울기 / LIME / SHAP