설명도 평가가 필요하다
모델이 설명을 출력한다는 사실만으로 그 설명의 적절성을 확인할 수는 없다. Quantus는 설명 방법을 체계적으로 검토하고 비교하는 평가 문제에 초점을 맞춘다.
지표와 안내의 구성
설명 방법을 평가하는 여러 지표를 정리된 모음으로 제공하고 튜토리얼을 함께 제시한다. 연구자가 신경망 설명을 평가하는 데 사용할 수 있는 공통 도구를 목표로 한다.
재현성과 투명성
원 연구는 설명 가능 인공지능 평가의 투명성과 재현성을 높이려는 목적으로 도구를 소개했다. 개별 설명 결과를 보여주는 라이브러리와 함께 평가 체계를 구성하는 역할이다.
관련 문서
Captum / 현저성 지도의 무작위화 검사 / ROAR 설명 평가 / SHAP / LIME / dattri