트리의 합으로 표현하기
단일 결정 트리는 가산 구조에 불리한 귀납 편향을 가질 수 있다. FIGS는 유연한 수의 트리를 동시에 성장시켜 그 출력을 더하는 방식으로 이 문제에 접근했다.
가산 성분의 학습
원 연구는 FIGS가 가산 모델의 구성 성분을 학습하는 분리 성질을 분석했다. 오라클 조건에서는 제한 없는 트리 합이 이 분리를 활용해 단일 트리보다 효율적으로 일반화하는 성질을 보였다.
분할 수와 배깅
분할 수를 제한하지 않으면 과적합이 생길 수 있어 랜덤 포레스트의 분산 감소 방식을 활용한 Bagging-FIGS도 제안했다. 실제 자료에서 트리 합과 앙상블의 예측 성능을 평가했다.
관련 문서
규칙 앙상블 학습 / 의사 결정 트리 / 랜덤 포레스트 / 배깅 / 신경 가산 모델 / OSDT 최적 희소 결정 트리