위키득계정 ↗
기술

군집 표현 공동 자기 레이블링

군집 표현 공동 자기 레이블링기술
연구 이름
Self-labelling via simultaneous clustering and representation learning
학습 조건
수동 레이블 없는 시각 자료
목적
레이블과 자료 식별자 사이 정보 최대화
풀이
빠른 Sinkhorn-Knopp 변형
군집 표현 공동 자기 레이블링은 레이블과 입력 자료의 식별자 사이 정보를 최대화하는 학습으로 군집 할당과 표현 학습을 함께 다루는 접근이다. 교차 엔트로피 최소화를 최적 수송 문제로 확장해 퇴화한 해를 피하려 한다.

군집과 표현의 동시 학습

군집과 표현을 단순히 함께 학습하면 제대로 정의되지 않은 문제나 퇴화한 해가 생길 수 있다. 이 연구는 그런 문제를 다루기 위해 레이블과 입력 자료 식별자 사이의 정보를 최대화하는 정식화를 제안한다.

최적 수송으로의 확장

제안 기준은 표준 교차 엔트로피 최소화를 최적 수송 문제로 확장한다. 빠른 Sinkhorn-Knopp 알고리즘의 변형으로 많은 영상과 레이블을 처리하도록 푼다. 수송은 학습 할당의 수학적 구조이며 파일 이동을 뜻하지 않는다.

자기 레이블의 활용

시각 자료에 스스로 레이블을 부여해 표현을 학습하며 수동 의미 레이블을 사용하지 않는다. 자기 레이블이 인간의 정답 분류 체계를 그대로 복원했다고 가정해서는 안 된다. 후속 과제의 전이 평가가 필요하다.

균형과 의미의 독립 예

설명용으로 네 영상을 두 군집에 두 개씩 나눠도 나눈 기준이 물체인지 촬영 시간인지는 따로 확인해야 한다. 할당 제약의 충족과 의미의 적절성은 별개다. 실제 연구 설정을 옮기지 않은 군집 해석의 예다.

관련 문서

IIC 군집 학습 / SCAN 이미지 군집 / 최적 수송 / 싱크혼 알고리즘 / 자기 지도 학습 / PiCIE