위키득계정 ↗
기술

커널 밀도 추정

커널 밀도 추정기술
영문명
Kernel density estimation
약칭
KDE
주요 설정
커널과 대역폭
추정 대상
확률질량이 아닌 확률밀도
커널 밀도 추정은 관측 표본마다 작은 밀도 함수를 놓고 이를 더해 전체 확률밀도를 추정하는 방법이다. 분포의 모양을 하나의 정규분포로 고정하지 않으며, 커널의 형태와 대역폭이 추정 곡선을 결정한다.

표본 주위의 기여 더하기

일차원에서 표본이 n개이고 대역폭이 h이면 각 표본 xi의 기여는 K((x-xi)/h)/(nh)다. 이를 모든 표본에 대해 더한다. 적분이 1인 커널 K를 쓰면 추정 전체 밀도도 적분이 1이 된다. h로 위치 차이를 나누는 것과 함께 높이도 조절해야 한다.

한 표본의 높이

가우스 커널을 쓰고 표본이 0 하나뿐이면 h=1에서 0의 밀도는 1/√(2π), 약 0.399다. h=0.1이면 같은 위치의 밀도가 약 3.989로 높아진다. 1을 넘는 밀도도 가능하며 확률이 1보다 커졌다는 뜻이 아니다. 구간에 속할 확률은 밀도를 그 구간에서 적분해 구한다.

대역폭의 절충

작은 h는 각 표본 주위의 굴곡을 크게 반영하고 큰 h는 곡선을 더 넓게 퍼뜨린다. 너무 작으면 표본의 우연한 변동을 과도하게 따라갈 수 있고 너무 크면 서로 다른 봉우리가 흐려질 수 있다. 학습 표본에서 밀도가 높다는 사실만으로 대역폭이 적절하다고 볼 수는 없다.

단위와 검증

특징 단위가 달라지면 거리와 밀도의 단위도 달라진다. 여러 차원에서는 필요한 자료량과 계산 비용이 커질 수 있다. 도구가 밀도 대신 로그 밀도를 반환하는지도 확인해야 한다. 커널과 대역폭은 별도 검증으로 정하고 낮은 밀도를 곧바로 오류나 불필요한 표본으로 해석하지 않는다.

관련 문서

정규분포 / 확률밀도함수 / 적분 / 평균 이동 군집화 / 국소 이상 인자 / 교차 검증 / 기계 학습