위키득계정 ↗
기술

DEC 심층 임베딩 군집화

DEC 심층 임베딩 군집화기술
연구 공개
2015년
발표
ICML 2016
영문 이름
Deep Embedded Clustering
반복 목표
부드러운 배정에서 얻은 보조 분포
DEC는 심층 신경망으로 특징 표현과 군집 배정을 동시에 학습하는 방법이다. 원 자료를 낮은 차원의 특징 공간으로 옮기고 현재 군집 배정에서 만든 목표를 반복적으로 최적화한다.

군집화할 공간의 학습

원 자료의 고정된 거리만으로 군집을 만드는 대신 군집화에 적합한 비선형 특징 공간을 학습한다. 신경망 매핑으로 차원을 낮추고 그 공간에서 특징 표현과 군집 소속을 함께 구한다.

보조 목표의 반복 갱신

현재의 부드러운 군집 배정으로 보조 목표 분포를 만든다. 중심 기반 확률 분포와 보조 목표 사이의 KL 발산을 줄이면서 군집 배정과 신경망 표현을 반복적으로 정제한다.

표지 없는 최적화

정답 클래스 표지 대신 군집화 목적의 기울기를 역전파해 특징 매핑을 학습한다. 원 연구는 영상 자료와 텍스트 자료에서 군집화 성능을 평가했다.

관련 문서

군집화 / 표현 학습 / 차원 축소 / 쿨백 라이블러 발산 / 오토인코더 / CC 대조 군집화