선형 점수와 확률을 구분하기
z는 음수나 1보다 큰 수도 될 수 있다. 확률 범위를 만드는 것은 뒤에 적용하는 로지스틱 함수다. 수학적으로 유한한 실수 z에서는 출력이 0보다 크고 1보다 작다. 선형 점수 자체를 확률이라고 읽으면 안 된다.
하나의 특성으로 계산하기
모델을 z=-2+x/2로 두자. x=4이면 z=0이고 확률은 1/2다. x=6이면 z=1이고 확률은 약 0.731이다. 특성이 2만큼 늘어도 확률이 2만큼 또는 고정된 크기로 늘어나는 것은 아니다.
선형인 것은 로그 오즈다
확률 p의 오즈는 p/(1-p)이고 그 자연로그가 z다. p=1/2이면 오즈는 1이라 로그가 0이다. p=4/5이면 오즈는 4, 로그는 ln 4다. 확률과 오즈, 로그 오즈는 서로 다른 수량이므로 계수를 해석할 때 구별한다.
분류 임계값은 별도 선택이다
예제의 x=6은 추정 확률이 약 0.731이다. 확률이 임계값 이상이면 양성으로 정하는 규칙에서 임계값 0.5라면 양성, 0.8이라면 음성이다. 임계값을 바꿨다고 모델의 확률 출력이 바뀐 것은 아니다. 어떤 값을 기준으로 범주를 정할지는 예측 이후의 의사결정 규칙이다.