분류기의 확신과 다른 신호
모델이 높은 확률을 내놓았다고 오답 가능성을 잘 구분하는 것은 아니다. Trust Score는 학습 또는 검증 예시의 분포를 별도 신호로 사용해 특정 예측을 얼마나 신뢰할지 살핀다.
클래스별 고밀도 자료
먼저 각 클래스에서 경험적인 밀도가 낮은 자료 일부를 걸러 낸다. 이 과정은 평가하려는 분류기와 독립적으로 수행하며, 남은 자료로 수정된 최근접 이웃 비교를 구성한다.
두 거리의 비율
예측 클래스의 고밀도 집합까지의 거리와 가장 가까운 다른 클래스 집합까지의 거리를 비교한다. 다른 클래스까지의 거리를 예측 클래스까지의 거리로 나누므로 예측 클래스에 상대적으로 가까울수록 점수가 커진다.
표현 공간의 영향
연구는 정답과 오답을 구분하는 성능을 평가하고 일정한 분포 가정에서 이론적 성질도 분석했다. 고차원 공간에서는 어려움이 더 컸으며, 거리를 계산하는 표현 공간에 따라 유용성이 달라졌다.
관련 문서
온도 스케일링 / 딥 앙상블 / 분포 변화의 선택적 질의응답 / 문맥 보정 프롬프팅 / 언어 모델의 언어화된 확신 / 기계 학습