분류기 체인

순서대로 늘어나는 입력

라벨을 A,B,C 순서로 예측한다면 첫 분류기는 원래 특징 x로 A를 예측한다. 둘째는 x와 A 정보를 함께 보고 B를 예측하며, 셋째는 x와 A,B 정보를 본다. 라벨별 모형을 독립적으로 학습하는 방식과 달리 앞 단계가 뒤 단계에 영향을 줄 수 있다.

두 특징과 세 라벨

원래 입력이 (2,5)이고 앞 단계 예측이 A=1, B=0이라고 하자. 이진 예측값을 연결하는 규칙에서는 B 분류기에 (2,5,1), C 분류기에 (2,5,1,0)이 들어간다. 원래 특징이 d개이면 j번째 분류기는 앞선 이진 라벨 j-1개를 더해 d+j-1개의 값을 받는다. 확률이나 결정 점수를 연결하는 변형에서는 입력 의미가 달라진다.

학습 때와 예측 때

학습에서 앞 라벨의 정답을 입력하고 실제 예측에서는 추정값을 입력하면 두 단계의 입력 품질이 다르다. 학습 때도 교차 검증으로 만든 예측값을 연결하는 방식을 사용할 수 있다. 이때 평가 자료의 정답이 연결 특징으로 섞이지 않도록 해야 한다. 앞 단계의 오류가 뒤로 전달될 수 있다는 점도 살펴야 한다.

순서와 평가

A를 먼저 예측하는 체인과 C를 먼저 예측하는 체인은 같은 모형이 아니다. 라벨 순서와 기본 분류기, 연결값의 종류를 검증해야 한다. 라벨 관계를 활용할 수 있다는 이유만으로 독립 모형보다 항상 좋지는 않다. 라벨별 성능과 해밍 손실, 전체 라벨 집합의 일치 정도를 함께 평가한다.