위키득계정 ↗
기술

최대 분산 펼침

최대 분산 펼침기술
영문명
Maximum variance unfolding
약칭
MVU
보존 조건
선택한 이웃 사이 거리
최적화 변수
양의 준정부호 내적 행렬
최대 분산 펼침은 가까운 점 사이의 거리를 유지하면서 전체 표현의 분산을 크게 만드는 비선형 차원 축소 방법이다. 점들의 내적 행렬을 변수로 두어 반정정부호 계획으로 정식화할 수 있다.

국소 제약 안에서 펼치기

자료에서 정한 이웃 쌍은 원래 거리와 같은 거리를 갖도록 제한한다. 전체 점의 중심을 원점에 두고 분산을 키우는 배치를 찾으면 일부 구부러진 구조를 펼치는 효과를 얻을 수 있다. 어느 쌍을 이웃으로 선택했는지에 따라 가능한 배치와 결과가 달라진다.

세 점 경로의 계산 예제

세 점에서 AB와 BC의 거리만 각각 1로 고정하고 AC에는 직접 제약을 두지 않는다고 하자. 삼각 부등식으로 AC는 2를 넘을 수 없고 일직선 배치 (−1,0,1)에서 2가 된다. 중심이 0인 이 배치는 굽은 두 간선보다 세 점의 분산이 크다. AC까지 1로 고정하면 이 일직선 배치는 허용되지 않는다.

내적 행렬의 정식화

Kᵢⱼ=yᵢᵀyⱼ로 두면 거리 제곱은 Kᵢᵢ−2Kᵢⱼ+Kⱼⱼ다. 이웃 거리 제약을 K의 선형 조건으로 쓰고 K가 양의 준정부호라는 조건을 더한다. 중심 조건 아래 trace(K)는 좌표 제곱 크기의 합이므로 이를 최대화한다. 좌표 자체의 비볼록 최적화 대신 볼록한 행렬 문제로 다룬다.

차원 선택과 끊어진 그래프

풀어 얻은 K의 큰 고유값 방향으로 낮은 차원 좌표를 구성할 수 있다. 일부 방향을 버리면 원래 행렬 해에서 정확히 지킨 거리도 근사적으로만 남을 수 있다. 이웃 그래프가 끊어져 성분 사이를 제한하지 않으면 서로 멀리 보내 분산을 무한히 키울 수 있으므로 연결성과 제약 구성을 먼저 확인한다.

관련 문서

반정정부호 계획법 / 볼록 최적화 / 고유값 / 그람 행렬 / 아이소맵 / 차원 축소