위키득계정 ↗
기술

잭나이프 플러스

잭나이프 플러스기술
영문명
Jackknife+
학습 방식
관측을 하나씩 뺀 모형 n개
필요 정보
제외 관측의 오차와 새 입력의 예측
기본 포함률 하한
교환가능성과 대칭적 학습 아래 1−2α
잭나이프 플러스는 관측을 하나씩 제외해 학습한 모형들의 예측값과 오차를 함께 사용해 새 반응값의 예측 구간을 만드는 방법이다. 한 개의 전체 자료 모형을 중심으로 구간 폭만 정하는 잭나이프 예측법과 구별한다.

오차와 예측값을 짝짓기

i번째 관측을 제외한 모형을 f₋ᵢ라 하면 그 관측의 절대 오차 rᵢ=|Yᵢ−f₋ᵢ(Xᵢ)|를 계산한다. 새 입력 x에서는 f₋ᵢ(x)−rᵢ와 f₋ᵢ(x)+rᵢ를 경계 후보로 만든다. 각각의 오차를 그 오차를 만든 모형의 새 입력 예측값과 짝짓는 것이 핵심이다.

순위로 경계를 고르기

하한 후보의 ⌊α(n+1)⌋번째 값과 상한 후보의 ⌈(1−α)(n+1)⌉번째 값을 작은 순서로 골라 구간을 만든다. 순위가 표본 범위 밖으로 나가면 해당 방향에 무한 경계를 둔다. 단순히 소프트웨어의 기본 분위수 보간 옵션을 적용하는 것과 구별해야 한다.

계산을 확인하는 작은 예제

n=4, α=0.2이고 새 입력 예측값이 10,11,9,12이며 대응하는 절대 오차가 1,2,1,1이라고 하자. 하한 후보는 9,9,8,11이고 상한 후보는 11,13,10,13이다. 순위는 각각 1과 4이므로 구간은 [8,13]이다. 이는 경계 조립을 설명하는 자체 계산이며 이러한 작은 표본에서 높은 포함률을 보장한다는 예제는 아니다.

보장과 계산량

기본 정리는 자료의 교환가능성과 관측 순서에 영향을 받지 않는 학습 절차를 전제로 한다. 문턱 α에 대한 일반적인 포함률 하한은 1−2α이며, 이를 항상 1−α로 읽으면 안 된다. 목표 하한 0.9를 이 정리로 확보하려면 α=0.05로 설정한다. 모형이 안정적이면 실제 구간은 기존 잭나이프와 비슷할 수 있지만, 관측마다 다시 학습하는 계산 부담은 따로 고려한다.

관련 문서

교차 검증 / 컨포멀 분위수 회귀 / 과적합 / 분위수 / 신뢰구간 / 회귀 분석