국소성 보존 투영

그래프와 선형 사상을 함께 쓰기

자료 점을 노드로 두고 가까운 점을 연결한 가중 그래프를 만든다. 저차원 좌표를 각 점마다 자유롭게 정하는 대신 하나의 선형 투영 행렬 A로 제한한다. 이 행렬이 간선으로 연결된 점들의 가중 제곱 거리 합을 줄이도록 선택된다.

투영 뒤 거리의 예제

두 점이 (1,0), (1,0.2)이고 투영 방향 a=(0,1)이라면 좌표 차이는 0.2다. a=(1,0)이면 둘 다 1로 겹친다. 한 쌍의 차이만 최소화하면 정보를 모두 잃을 수 있으므로 실제 방법에서는 여러 간선과 정규화 제약을 함께 사용한다. 이 예제만으로 최적 방향을 결정할 수는 없다.

새 점에 적용하기

선형 행렬을 구한 뒤에는 같은 변수 표현의 새 점 x에도 Aᵀx를 계산할 수 있다. 학습한 점들의 좌표만 얻는 매입 방식보다 새 자료를 투영하는 규칙이 직접적이다. 다만 계산식이 정의된다는 사실과 학습 분포 밖에서 이웃 관계가 잘 보존된다는 주장은 다르다.

주성분 분석과의 선택 기준

주성분 분석은 전체 분산을 크게 보존하는 선형 방향을 찾는 반면 LPP는 정한 그래프의 국소 관계에 초점을 둔다. 어떤 기준이 적합한지는 과제와 거리 정의에 달려 있다. 행렬이 특이하거나 변수가 중복되면 고유값 문제를 안정적으로 풀기 위한 전처리나 차원 축소가 필요할 수 있다.