목표 누출과 예측 이동
범주별 목표 통계를 만들 때 해당 예시 자신의 목표값을 사용하면 학습과 시험의 조건이 달라질 수 있다. 원 연구는 범주형 전처리와 부스팅 과정의 목표 누출을 분석했다.
순서 기반 접근
순열에 기반한 ordered boosting을 기존 부스팅의 대안으로 제안했다. 범주형 특징을 처리하는 알고리즘에도 순서 원리를 적용해 누출에 의한 예측 이동을 다루는 구성을 취했다.
기법의 결합과 평가
이진 결정 트리를 기본 예측기로 사용하는 부스팅 구현에 두 기법을 결합했다. 원 연구는 다양한 자료에서 다른 공개 부스팅 구현과 비교하고 제안한 기법의 효과를 분석했다.