위키득계정 ↗
기술

국소 선형 매입

국소 선형 매입기술
영문명
Locally linear embedding
약칭
LLE
보존 대상
이웃 재구성 가중치
대표 계산
제약 최소제곱과 고유값 문제
국소 선형 매입은 각 데이터 점을 가까운 이웃의 선형 결합으로 재구성하고, 그 재구성 가중치를 낮은 차원에서도 유지하도록 좌표를 찾는 방법이다. 부분별로 계산한 관계를 하나의 좌표계로 연결한다.

이웃이 점을 설명하는 비율

먼저 각 점의 가까운 이웃을 정하고 그 점을 이웃들의 가중 합으로 최대한 잘 표현한다. 가중치 합은 1로 제한하며 이웃이 아닌 점의 가중치는 0으로 둔다. 합이 1이라는 조건이 음수가 아닌 가중치만 허용한다는 뜻은 아니다. 점의 위치에 따라 음의 가중치도 나올 수 있다.

세 수의 재구성 예제

점 1을 이웃 0과 4로 나타내면 1=(3/4)×0+(1/4)×4다. 모든 좌표를 x→2+3x로 바꾸면 점은 5, 이웃은 2와 14가 되고 같은 가중치로 5=(3/4)×2+(1/4)×14가 성립한다. 이 계산은 지역적인 재구성 관계가 좌표 이동과 공통 배율에 유지되는 모습을 보여 준다.

낮은 차원에서 같은 관계 찾기

고차원에서 구한 가중치를 고정하고 저차원 좌표에서도 각 점과 그 이웃 가중 합의 차이가 작아지도록 한다. 모든 좌표가 같은 값이 되는 해를 피하기 위해 중심과 크기 제약을 두며 희소 고유값 문제로 풀 수 있다. 각 이웃마다 따로 주성분 분석을 하고 끝내는 방식과는 다르다.

이웃 선택과 퇴화

이웃 수가 너무 적으면 그래프가 끊어질 수 있고 너무 많으면 구부러진 구조의 다른 부분까지 한 번에 연결할 수 있다. 이웃 좌표가 선형 종속이면 재구성 가중치에 정규화가 필요할 수 있다. 매입의 부호나 회전은 달라질 수 있으므로 그림의 방향보다 이웃 관계와 안정성을 비교한다.

관련 문서

라플라시안 고유사상 / 아이소맵 / 차원 축소 / 다양체 학습 / 주성분 분석 / 최소제곱법