기준 행렬과 섞기
경험 공분산을 S, 축소 강도를 α라고 하면 (1-α)S+αT로 추정할 수 있다. 대표적인 기준 T는 평균 분산 μ에 단위행렬을 곱한 μI다. 특징이 d개이면 μ=trace(S)/d다. α=0은 원래 행렬이고 α=1은 기준만 사용하는 경우다. 모든 공분산 축소가 이 기준을 쓰는 것은 아니다.
두 특징의 예
S의 대각 원소가 모두 4이고 비대각 원소가 3이면 평균 분산은 4다. α=0.5로 4I와 섞으면 대각은 4, 비대각은 1.5가 된다. 원래 고윳값 1과 7은 2.5와 5.5로 바뀐다. 이 예의 스펙트럴 조건수는 7에서 2.2로 낮아져 역행렬 계산의 민감성을 줄일 여지가 있다.
편향과 안정성
기준 쪽으로 당기는 것은 실제 공분산을 그대로 복구하는 마법이 아니다. 추정의 변동을 줄이는 대신 기준에 따른 편향을 넣는다. 비대각 값을 작게 만들었다고 특징들이 실제로 독립이라는 뜻도 아니다. 특징의 단위를 바꾸면 평균 분산 기반 기준의 의미도 달라질 수 있다.
강도와 검증
축소 강도를 고정하거나 자료에 따라 추정하는 방법이 있다. 이후 판별 분석이나 거리 계산에 쓴다면 전체 절차의 목적에 맞춰 검증해야 한다. 이상값에 대한 강건 추정과 공분산 축소는 다른 개념이다. 평가 자료를 포함해 공분산이나 강도를 선택하지 않도록 학습과 평가 단계를 구분한다.