위키득계정 ↗
기술

CLIP의 예측 수준 허브성

CLIP의 예측 수준 허브성기술
영문 이름
Prediction-level hubness
분석 발표
2026년
관찰 위치
제로샷 분류의 출력 공간
관련 조작
모달리티 간격 보정
CLIP의 예측 수준 허브성은 영상과 텍스트의 간격을 보정한 뒤 분류 출력이 소수 범주에 집중되는 실패 양상이다. 평균적인 표현 정렬이 개선되어도 범주 사이의 결정 관계가 나빠질 수 있음을 다룬다.

가장 가까운 범주를 고르는 분류

CLIP의 제로샷 분류는 영상과 가장 유사한 범주 텍스트 표현을 선택한다. 정확도에는 영상과 텍스트의 평균 거리뿐 아니라 경쟁하는 범주 사이의 점수 차이와 결정 여유도 영향을 준다.

보정 뒤의 결정 구조 변화

선형 간격 보정을 분석한 연구는 보정이 범주 사이의 상대적 결정 관계를 바꿀 수 있다고 보였다. 그 결과 여러 입력의 예측이 일부 범주에 몰리는 현상을 예측 수준 허브성으로 불렀다.

출력 집중과 정확도

여러 자료에서 선형 보정과 학습 기반 보정 모두를 살폈다. 간격 보정 이후의 정확도 저하가 예측 집중 증가와 연결되는지를 비교해 평균 정렬만으로 설명하기 어려운 결과를 분석했다.

함께 볼 평가 지표

간격을 줄이는 방법을 평가할 때 표현의 평균 거리와 분류 정확도, 범주별 예측 분포를 함께 확인할 필요가 있다. 특정 범주가 자주 선택된다는 현상과 자료 자체의 범주 불균형도 구별해야 한다.

관련 문서

CLIP / 모달리티 간격 / 대조 간격 / 제로샷 학습 / 분류 / 임베딩