잔차가 커질 때
설명을 위해 임계값 1인 허버 손실을 작은 잔차에서는 r²/2, 절댓값이 1보다 크면 |r|-1/2로 정의하자. 잔차 0.5의 손실은 0.125이고, 잔차 5의 손실은 4.5이다. 같은 잔차 5에 이차 손실 r²/2를 적용하면 12.5가 된다. 큰 잔차에서 손실이 더 완만하게 증가하지만, 잔차가 커져도 비용이 그대로인 것은 아니다.
모형과 척도
선형 허버 회귀는 예측을 입력 변수의 선형 결합과 절편으로 표현한다. 구현에 따라 잔차를 척도 추정값으로 나눈 뒤 임계값과 비교하고, 계수에 L2 벌점을 함께 줄 수 있다. 앞의 손실 계산은 척도를 고정한 예제이며 모든 구현의 전체 목적함수를 그대로 나타내지는 않는다. 목적 변수의 단위와 설명 변수별 단위도 구분해 살펴야 한다.
강건성의 범위
큰 잔차의 영향이 줄어든다고 해서 모든 이상점에 안전한 것은 아니다. 입력 좌표가 극단적인 표본은 계수 추정에 큰 영향을 줄 수 있다. 이상점 표시 역시 선택한 모형과 척도에 의존한다. 실제로 잘못 수집된 자료인지, 중요한 드문 사례인지 확인하지 않고 자동으로 삭제해서는 안 된다.
설정과 평가
임계값을 줄이면 더 많은 잔차가 선형 손실 구간에 들어갈 수 있다. 정규화 강도와 함께 검증해야 하며 한 설정이 모든 자료에 적합하지는 않다. 일반 선형 회귀, 절대 오차 기반 방법 등과 같은 조건에서 비교한다. 전체 오차뿐 아니라 잔차 분포와 중요한 집단의 성능을 확인하고, 강건한 추정이 인과관계나 정확한 외삽을 보장하지 않는다는 점도 구분한다.