부호와 마진
범주를 -1과 1로 나타내고 점수를 f(x)=w의 내적 x+b라고 하자. yf(x)가 양수이면 부호는 맞지만 그 값이 작으면 경계에 가깝게 놓인다. 점수 크기는 w의 크기에 따라 달라지므로 가중치 규제와 함께 마진을 해석해야 한다. 점수 자체는 확률이 아니다.
힌지의 계산
힌지 손실은 max(0,1-yf(x))다. yf(x)가 2이면 손실은 0, 0.4이면 0.6, -0.5이면 1.5다. 제곱 힌지에서는 각각 0,0.36,2.25가 된다. 따라서 부호가 맞는 0.4의 표본도 마진 안에 있다는 이유로 양의 손실을 받을 수 있다.
일차원 경계의 예
음성 점이 -2와 -1, 양성 점이 1과 2라면 경계 x=0이 두 범주를 나눈다. 점수를 x로 두면 yf(x)는 2,1,1,2다. 두 기준면 f(x)=-1과 1 사이 폭은 2다. 점수를 2x로 바꾸어도 분류 경계는 같지만 기준면 사이 폭과 가중치 크기는 달라진다. 점수의 배율만 키우는 것을 더 좋은 분리라고 볼 수는 없다.
규제와 구현 차이
손실의 가중치 C를 크게 두면 상대적으로 오차나 마진 위반을 더 강하게 줄이려 한다. 특징 단위와 표준화도 결과에 영향을 준다. 도구마다 기본 손실이나 절편 규제 방식이 다를 수 있으므로 같은 선형 경계 모형이라는 이유만으로 계수가 같다고 가정하지 않는다. 설정은 별도 자료에서 평가한다.