위키득계정 ↗
기술

NGBoost

NGBoost기술
연구 공개
2019년
발표
ICML 2020
영문 이름
Natural Gradient Boosting
예측 대상
조건부 확률분포
NGBoost는 결과값 하나 대신 입력에 조건부인 확률분포를 예측하는 부스팅 알고리즘이다. 분포의 여러 모수를 함께 학습하며 자연 기울기로 학습 방향을 조정한다.

점 예측과 분포 예측

일반적인 회귀는 주어진 입력에서 하나의 추정값을 출력한다. 확률적 회귀는 결과 공간의 분포 전체를 출력해 예측 불확실성을 추정하는 데 활용할 수 있다.

여러 모수의 부스팅

NGBoost는 조건부 분포의 모수를 여러 목표로 취급해 부스팅한다. 자연 기울기를 사용해 여러 모수를 함께 최적화할 때의 학습 동역학을 교정하는 접근을 제안했다.

구성 요소의 선택

기본 학습기와 연속 모수를 갖는 분포 계열, 점수 규칙을 조합할 수 있도록 설계됐다. 원 연구는 확률적 예측 성능과 함께 유연성 및 확장성을 평가했다.

관련 문서

기울기 부스팅 / 자연 기울기 / 조건부 확률 / 확률분포 / 예측 불확실성 / XGBoost