조건을 따라 내려가기
수치 특징 하나를 문턱값 이하와 초과로 나누는 이진 분할을 생각할 수 있다. 각 자식 노드에서도 필요한 조건을 검사하고 잎에 도달하면 그 잎의 학습 표본 분포로 범주를 정한다. 전체 규칙은 여러 조건의 조합이다. 한 조건이 실제 원인이라는 뜻은 아니다.
여섯 표본의 분할
특징 값이 1부터 6이고 범주가 앞의 세 점은 A, 뒤의 세 점은 B라고 하자. 부모의 지니 불순도는 1-(1/2)^2-(1/2)^2=0.5다. 문턱 3.5로 나누면 두 자식이 모두 순수해 불순도가 0이 된다. 문턱 2.5이면 오른쪽에 A 하나와 B 셋이 남아 불순도는 0.375이고, 자식 크기로 가중한 값은 0.25다.
한 단계와 전체
이 예에서는 3.5가 2.5보다 불순도를 더 크게 낮춘다. 일반적인 탐욕적 학습은 각 단계에서 좋은 분할을 고르지만 이것이 가능한 모든 나무 중 전역 최선이라는 보장은 아니다. 분할 기준이나 동점 처리, 후보 특징 제한에 따라서도 다른 나무가 만들어질 수 있다.
과적합과 평가
너무 깊게 자라면 적은 표본의 우연한 차이까지 규칙으로 만들 수 있다. 최대 깊이, 잎의 최소 표본 수, 가지치기 등으로 복잡도를 조절하고 별도 자료로 평가해야 한다. 잎에서 한 범주만 보였다고 그 영역의 실제 확률이 반드시 1인 것은 아니다. 해석 가능한 경로라도 입력이 달라지면 예측은 급격히 바뀔 수 있다.