각 열의 변동 보기
특징마다 훈련 표본들 사이의 분산을 계산해 정한 임계값과 비교한다. 어떤 열을 남길지 정한 뒤에는 새 자료에도 같은 열 선택을 적용한다. 표본 하나 안의 특징들끼리 분산을 계산하는 연산과는 다르다.
세 열의 예
네 표본에서 A=(5,5,5,5), B=(0,1,0,1), C=(0,0,0,1)이라고 하자. 편차 제곱합을 4로 나누면 분산은 각각 0, 0.25, 0.1875다. 분산이 0.2보다 큰 열만 남기면 B 하나가 선택된다. 임계값 0에서 양의 분산을 가진 열을 유지하면 B와 C가 남는다.
단위를 바꾸면
C의 값들을 10배 하면 분산은 100배인 18.75가 된다. 자료가 표현하는 사건은 같아도 고정 임계값의 선택 결과는 달라질 수 있다. 표준화로 모든 비상수 열의 분산을 비슷하게 맞춘 뒤에는 원래 분산 차이를 고르는 의미도 바뀐다.
중요도의 판정은 아니다
목표값을 보지 않는 방식이므로 분산이 작은 열에도 예측에 필요한 정보가 있을 수 있다. 반대로 큰 분산이 높은 예측력을 보장하지 않는다. 선택 과정도 교차 검증의 훈련 구간 안에서 맞추고, 임계값의 효과를 별도 평가해야 한다.
관련 문서
분산 / 특징 표준화 / 최소 최대 스케일링 / 교차 검증 / 데이터 누출 (기계 학습) / 원핫 인코딩 / 기계 학습