스태킹 분류

예측으로 만든 입력

두 기본 분류기가 한 표본의 양성 확률을 각각 0.8과 0.3으로 출력했다면, 최종 분류기의 입력을 (0.8,0.3)으로 구성할 수 있다. 설명을 위해 최종 결정 점수가 2p1+p2-1이라고 가정하면 이 표본의 점수는 0.9이다. 같은 식에서 (0.2,0.9)는 0.3이 된다. 이 식은 결합을 보여 주는 예제일 뿐이며 실제 계수는 정해진 학습 절차로 구한다.

자기 학습 예측의 문제

기본 분류기가 이미 외운 표본의 예측을 최종 분류기의 학습에 사용하면 실제 새 자료보다 지나치게 쉬운 입력이 만들어질 수 있다. 대표적 방법은 자료를 여러 폴드로 나누고 각 표본이 속한 폴드를 제외해 기본 분류기를 학습한 뒤 그 표본을 예측하는 것이다. 이렇게 만든 폴드 밖 예측으로 최종 분류기를 학습한다. 전처리 역시 해당 학습 폴드 안에서 정해야 한다.

최종 학습과 평가

기본 분류기는 최종 사용을 위해 전체 학습 자료로 다시 학습할 수 있다. 최종 분류기를 위한 폴드 밖 예측 생성과, 스태킹 전체의 성능을 평가하는 과정은 같은 일이 아니다. 별도로 남긴 평가 자료나 적절한 외부 검증이 필요하다. 시간 순서나 동일 대상의 반복 관측이 있다면 그 구조를 지키는 분할을 사용해야 한다.

입력과 복잡도

확률, 결정 점수, 예측 레이블 중 무엇을 결합하느냐에 따라 전달되는 정보가 달라진다. 원래 특징을 최종 분류기에 함께 주는 구성도 가능하다. 모형을 쌓을수록 학습과 추론 비용이 커지고 과적합 가능성도 남는다. 단일 모형이나 투표와 비교해 실제 개선이 있는지 검증하고, 기본 모형들의 출력이 서로 얼마나 중복되는지도 살핀다.