합성 이웃의 생성
LORE는 먼저 설명할 입력 주변의 합성 이웃을 유전 알고리즘으로 만든다. 그 이웃에서 블랙박스의 행동을 나타내는 해석 가능한 국소 예측기를 학습한다.
두 종류의 규칙
국소 예측기의 논리에서 현재 결정을 설명하는 규칙을 추출한다. 이어 입력 특징이 어떻게 달라지면 다른 결과가 나오는지를 표현하는 반사실 규칙 집합도 도출한다.
설명과 모방의 평가
원 연구는 설명의 품질과 국소 예측기가 블랙박스를 모방하는 정확도를 실험으로 평가했다. 개별 입력 주변의 설명을 만드는 접근이므로 이 국소 예측기를 원래 모델 전체와 동일하게 취급하지 않는다.
관련 문서
LIME / 반사실 설명 / Growing Spheres / DiCE 반사실 설명 / 유전 알고리즘 / 정의 기반 설명 평가