무엇을 맞추는가
대응 벡터를 a_i,b_i, 양의 가중치를 w_i라고 하면 목적함수는 1/2 Σw_i‖a_i−Cb_i‖²로 나타낼 수 있다. C는 직교 조건 CᵀC=I와 행렬식 det C=1을 만족하는 회전이다. 행렬식이 −1인 반사는 허용하지 않는다. 모든 직교 변환을 허용하는 문제와 구별해야 하며, 평행이동이나 균일한 확대도 이 회전 자체의 역할이 아니다.
두 방향으로 회전을 정하는 예
b_1=(1,0,0), b_2=(0,1,0)을 각각 a_1=(0,1,0), a_2=(−1,0,0)에 맞춘다고 하자. z축 주위의 90도 회전은 두 대응을 모두 정확히 맞추므로 오차는 0이다. 첫 방향 한 쌍만 주어졌다면 그 방향을 맞춘 뒤 축 주위로 추가 회전하는 자유가 남는다. 서로 독립적인 방향 관측이 자세 추정에서 중요한 이유다.
길이와 가중치
같은 방향이라도 길이가 다르면 회전만으로 잔차를 없앨 수 없다. 예를 들어 길이 2인 벡터를 같은 방향의 길이 1인 벡터에 맞춰도 차이의 길이는 1이다. 방향만 비교하려는 문제라면 영벡터를 제외하고 단위 길이로 정규화하는 구성을 생각할 수 있다. 반대로 길이 자체에 의미가 있는 자료를 무조건 정규화하면 원래 목적함수를 바꾸는 셈이다.
해와 관측 오차
특잇값 분해를 이용한 카브쉬 방식 등으로 최적 회전을 계산할 수 있다. 그러나 최소 오차를 찾았다는 사실이 관측의 정확성이나 실제 자세의 신뢰도를 보증하지는 않는다. 방향들이 거의 나란하거나 잡음이 크면 추정이 불안정할 수 있다. 잔차, 관측의 기하학적 배치와 가중치의 근거를 함께 검토하고, 정규화 전후의 결과를 다른 문제의 해로 구분한다.
관련 문서
회전 행렬 / 회전 벡터 / 오일러 각 / 직교 프로크루스테스 문제 / 특잇값 분해 / 가중 최소제곱법