정의와 대칭성
δ>0일 때 L(r)=δ²(√(1+(r/δ)²)-1)이다. 잔차의 부호가 바뀌어도 값이 같으며 r=0에서 0이다. 여기서 잔차는 예측값과 관측값의 차이처럼 모델의 어긋남을 나타내는 값이다.
간단한 계산
δ=3, r=4이면 제곱근 안은 25/9이므로 손실은 9(5/3-1)=6이다. r=-4에서도 6이다. 같은 잔차의 절반 제곱 손실은 8이다. 두 값을 비교하면 큰 잔차의 증가를 완화하는 효과를 볼 수 있지만, 손실값이 항상 0이 되어 관측을 버리는 것은 아니다.
기울기와 곡률
미분하면 L′(r)=r/√(1+(r/δ)²), L″(r)=(1+(r/δ)²)의 -3/2제곱이다. 이차 도함수는 양수여서 잔차에 대한 함수가 볼록하다. δ=3, r=4에서 기울기는 12/5, 곡률은 27/125다. 잔차가 커질수록 기울기의 절댓값은 δ에 접근한다.
전환 계수의 의미
원점 부근의 전개는 r²/2로 시작하고, 큰 잔차에서는 δ|r|-δ²에 가까워진다. δ는 두 성격이 전환되는 크기를 조절한다. 매끄러운 함수라도 이상치의 영향이 없어지는 것은 아니며, 잔차에 대해 볼록하다는 성질이 임의의 신경망 매개변수에 대한 전체 문제의 볼록성을 보장하지는 않는다.