출력보다 내부 특징
소프트맥스 분류기가 비정상 입력에도 높은 확신을 보일 수 있다는 문제에서 출발한다. 심층 모형의 낮은 수준과 높은 수준 특징에 가우스 판별 분석을 적용해 클래스 조건부 분포를 얻는다.
거리 기반 신뢰 점수
정상 학습 자료의 클래스별 특징 분포와 입력 특징의 관계를 마할라노비스 거리로 평가한다. 이 거리에서 신뢰 점수를 구성해 분포 밖 입력과 적대적 입력을 탐지하는 데 활용한다.
추가 적용의 평가
원 연구는 표지가 시끄럽거나 학습 예시가 적은 조건도 조사했다. 새로운 클래스가 발견될 때 심층 모형을 다시 학습하지 않고 분류 규칙에 클래스를 추가하는 점진 학습 적용도 평가했다.
관련 문서
마할라노비스 거리 / 다변량 정규 분포 / 이상 탐지 / 최대 소프트맥스 확률 탐지 / ODIN 분포 밖 탐지 / 점진 학습