일치만으로 부족한 이유
같은 이미지의 두 증강 뷰를 비슷한 벡터로 보내면 변형에 안정적인 표현을 배울 수 있다. 그러나 모든 입력에 같은 벡터를 내도 두 뷰는 일치한다. VICReg은 일치 항과 별개로 배치 안에서 각 좌표가 충분히 변하도록 유도한다.
표준편차의 벌점
분산 항은 좌표마다 max(0,γ−√(분산+ε))를 계산해 평균한다. γ는 목표 하한이고 ε는 수치 안정화 값이다. ε를 생략한 계산 예에서 γ=1이고 두 좌표의 표준편차가 0.4와 1.3이면 벌점은 각각 0.6과 0이며 평균은 0.3이다.
공분산의 중복 감소
각 뷰의 배치 표현에서 공분산 행렬을 계산하고 비대각 성분의 제곱을 벌점으로 준다. 좌표가 서로 같은 정보를 반복하는 경향을 줄이려는 항이다. 두 뷰 사이의 일치, 각 뷰 안의 분산, 각 뷰 안의 좌표 간 공분산은 서로 다른 통계를 다룬다.
목표와 결과 구분
표준편차 하한을 유도하는 것은 모든 좌표의 분산을 정확히 같은 값으로 고정하는 제약과 다르다. 공분산 감소도 통계적 독립을 일반적으로 보장하지 않는다. 손실 가중치와 배치 통계를 확인하고 후속 분류나 전이 평가로 필요한 정보가 남아 있는지 살핀다.
관련 문서
Barlow Twins / SimSiam / BYOL / 표준편차 / 공분산 행렬 / 정규화