실제 결과에 부여한 확률
이진 결과가 1이고 양성 예측 확률이 p라면 손실은 -ln(p)다. 결과가 0이면 -ln(1-p)다. 어느 쪽 결과가 실제로 나왔는지에 따라 해당 범주의 확률을 읽는 방식으로 이해할 수 있다. 여러 관측에서는 이 값들을 평균하거나 합하며 어느 집계인지 구분해야 한다.
같이 맞혀도 확률은 다르다
실제 결과가 1일 때 p=0.5의 손실은 약 0.693이고 p=0.9의 손실은 약 0.105다. 실제 결과가 0인데 p=0.9였다면 손실은 약 2.303이다. 임계값으로 범주를 정한 뒤 정답 개수만 세면 이런 차이는 드러나지 않는다.
불가능하다고 한 일이 일어나면
실제로 나온 범주에 확률 0을 주면 이상적인 로그 손실은 무한대다. 확률이 0에 가까워질수록 벌점에 유한한 상한이 없다. 실제 프로그램은 로그 0이나 부동소수점 문제를 피하려고 확률을 작은 양수 범위로 제한할 수 있어 수학적 극한과 반환값을 구별해야 한다.
범주 순서와 집계 기준
다중분류에서는 각 관측의 실제 범주에 해당하는 예측 확률을 사용한다. 확률 행렬의 열 순서와 범주 이름을 잘못 연결하면 다른 문제의 점수를 계산하게 된다. 평균 손실과 전체 합은 자료 수가 달라질 때 비교 방식도 달라지므로 예측 확률의 의미와 집계 기준을 함께 확인해야 한다.