위키득계정 ↗
기술

JULE

JULE기술
연구 공개
2016년
발표
CVPR 2016
영문 이름
Joint Unsupervised LEarning
결합 손실
가중 삼중항 손실
JULE은 영상 군집화와 심층 표현 학습을 하나의 순환 과정으로 결합하는 방법이다. 순전파에서는 군집을 갱신하고 역전파에서는 그 결과를 감독 신호로 사용해 표현을 학습한다.

순환 과정의 군집화

합성곱 신경망의 출력 표현 위에서 군집 알고리즘의 연속 연산을 순환 과정의 단계로 표현한다. 영상 군집과 표현을 따로 완성하는 대신 같은 학습 절차에서 함께 갱신한다.

서로 제공하는 학습 신호

좋은 표현은 영상 군집화에 도움이 되고 군집 결과는 표현 학습의 감독 신호가 된다는 생각을 이용한다. 순전파의 군집화와 역전파의 표현 학습을 연결하는 방식이다.

공동 목적의 학습

통일된 가중 삼중항 손실로 두 과정을 결합하고 종단 간으로 최적화한다. 원 연구는 여러 영상 자료의 군집화와 학습한 표현을 다른 과제로 옮기는 전이 성능을 평가했다.

관련 문서

군집화 / 표현 학습 / 합성곱 신경망 / 삼중항 손실 / 역전파 / DEC 심층 임베딩 군집화