위키득계정 ↗
기술

에너지 기반 분포 밖 탐지

에너지 기반 분포 밖 탐지기술
연구 공개
2020년
점수
에너지 점수
적용 방식
사후 점수 계산 또는 학습
문제의식
분포 밖 입력의 과도한 확신
에너지 기반 분포 밖 탐지는 신경망 분류기의 출력에서 에너지 점수를 계산해 학습 분포 밖 입력을 구별하는 방법이다. 검사 점수로 사용하는 방식과 에너지 모양 자체를 학습하는 방식을 함께 제안했다.

소프트맥스 확신의 문제

소프트맥스 신뢰 점수는 분포 밖 자료에 대해서도 높은 값을 낼 수 있다. 원 연구는 입력 확률 밀도와 이론적으로 정렬되는 에너지 점수를 사용해 이러한 과신에 덜 민감한 탐지 기준을 제안했다.

검사와 학습의 두 용도

에너지는 사전 학습 신경망 분류기의 점수 함수로 활용할 수 있다. 동시에 학습 가능한 비용 함수로 사용해 분포 밖 탐지에 적합하도록 에너지 표면을 명시적으로 바꾸는 방법도 다룬다.

기준선과의 비교

원 연구는 사전 학습 분류기에서 에너지 점수와 소프트맥스 신뢰 점수를 비교했다. 에너지를 이용해 학습한 모형도 공통 벤치마크에서 평가해 사후 점수 변경과 추가 학습을 구분했다.

관련 문서

에너지 기반 모델 / 소프트맥스 함수 / 최대 소프트맥스 확률 탐지 / Outlier Exposure / 확률 밀도 함수 / 이상 탐지