위키득계정 ↗
기술

VIBI

VIBI기술
공개
2019년
학회 발표
AAAI 2021
영문 이름
Variational Information Bottleneck for Interpretation
기준
입력 압축과 결정 정보의 균형
VIBI는 정보 병목 원리로 간결하면서도 예측 정보를 충분히 담는 특징 설명을 찾는 방법이다. 예시별로 입력 정보를 압축하면서 블랙박스 모델의 결정에 유용한 핵심 특징을 선택한다.

간결성과 포괄성

설명이 짧기만 하면 중요한 정보를 놓칠 수 있고 많은 특징을 담으면 중복될 수 있다. VIBI는 간결성과 결정에 대한 정보성을 함께 고려하는 설명을 목표로 한다.

정보 병목의 활용

각 예시에서 입력에 대한 정보는 최대한 압축하면서 그 입력의 모델 결정에는 유용한 특징을 선택한다. 이 두 요구를 정보 병목 원리로 연결하는 시스템 독립적 접근이다.

사람과 지표의 평가

세 자료 집합에서 기존 해석 방법과 비교했다. 사람 평가와 정량 지표를 함께 사용해 해석 가능성과 모델에 대한 충실성을 조사했다.

관련 문서

L2X / 개념 병목 모델 / LIME / SHAP / 설명의 비충실도와 민감도 / Quantus