그래피컬 라소

공분산의 역행렬

공분산 행렬이 가역이면 그 역행렬을 정밀도 행렬이라 한다. 그래피컬 라소는 이 행렬을 양의 정부호로 유지하면서 자료 적합도와 희소성의 절충을 찾는다. 희소하다는 것은 많은 원소가 0이라는 뜻이며, 추정 공분산 자체가 같은 위치에서 0이어야 한다는 뜻은 아니다.

세 변수의 예

공분산 행렬의 세 행이 (2,1,1), (1,2,1), (1,1,1)이라고 하자. 역행렬의 행은 (1,0,-1), (0,1,-1), (-1,-1,3)이다. 첫째와 둘째 변수의 공분산은 1이지만 역행렬의 해당 원소는 0이다. 이는 역행렬의 0과 공분산의 0이 다르다는 계산 예이며 규제 모형을 실제 적합한 결과는 아니다.

조건부 관계의 해석

비특이 다변량 정규분포에서는 정밀도 행렬의 비대각 원소가 0인 두 변수는 나머지 변수를 조건으로 독립이다. 앞 예에서는 셋째 변수를 조건으로 첫째와 둘째의 관계를 해석해야 한다. 주변적으로 공분산이 있다는 사실과 모순되지 않는다. 이 해석을 임의의 비정규 자료나 인과관계로 그대로 확대해서는 안 된다.

강도와 검증

규제 강도를 높이면 더 희소한 구조를 선호하지만 중요한 관계까지 제거할 수 있다. 표본 수, 특징 단위, 중심화와 수치 수렴을 검토해야 한다. 행렬 원소 하나의 추정값만으로 확정적인 연결이나 원인을 주장하지 않는다. 강도 선택과 관계의 안정성은 분리된 검증 자료나 재표본 평가 등으로 살핀다.