위키득계정 ↗
기술

문맥 분해

문맥 분해기술
공개
2018년
학회
ICLR 2018
영문 이름
Contextual Decomposition
약칭
CD
문맥 분해는 LSTM의 출력을 분해해 단어나 변수 조합의 기여를 분석하는 해석 알고리즘이다. 기본 모델을 바꾸지 않고 개별 예측에서 조합의 역할을 살펴본다.

단어 하나를 넘어서

LSTM은 복잡한 비선형 관계를 학습할 수 있어 개별 단어의 중요도만으로 예측을 설명하기 어렵다. 문맥 분해는 조합된 단어와 변수가 최종 예측에 기여하는 방식을 분석한다.

출력의 분해

표준 LSTM의 기본 구성을 바꾸지 않고 출력을 분해한다. 이를 통해 단어나 변수의 조합이 예측에 더하는 기여를 포착하는 알고리즘을 제안했다.

감정 분석의 평가

Yelp와 SST 감정 분석에서 대비되는 감정의 단어와 구절 및 그 결합을 조사했다. SST의 구절 단위 레이블로 긍정 및 부정의 부정 표현을 추출하는 능력도 평가했다.

관련 문서

신경망 가중치의 상호작용 탐지 / 적분 헤시안 / 적분 기울기 / DeepLIFT / LIME / SHAP