잔차를 0으로 만드는 조건은 아니다
원래 식 Ax = b를 정확히 만족하는 값이 없더라도 최소제곱 해는 구할 수 있다. 정규방정식은 잔차 r = b-Ax 자체가 0이라는 식이 아니라 Aᵀr = 0이라는 조건이다. A의 열로 표현할 수 있는 방향과 잔차가 직교한다.
미지수 하나의 계산 예
A의 한 열이 (1,2,3), b가 (2,2,4)라고 하자. AᵀA = 1+4+9 = 14이고 Aᵀb = 2+4+12 = 18이다. 따라서 정규방정식은 14x = 18이며 해는 x = 9/7이다. 세 식을 모두 정확히 만족하지는 않는다.
직교 조건을 직접 확인한다
위 해에서 잔차는 (5/7,-4/7,1/7)이다. Aᵀr을 계산하면 5/7-8/7+3/7 = 0이다. 잔차 제곱합은 6/7로 남지만 정규방정식의 조건은 만족한다. 잔차가 남는다는 사실만으로 계산이 실패했다고 판단할 수는 없다.
유일성과 계산 방법
A의 열들이 선형 독립이면 AᵀA가 가역이어서 해가 유일하다. 열들이 종속이면 계수 벡터의 유일성은 보장되지 않는다. 식을 설명할 때 역행렬 표현을 쓸 수 있어도 실제 계산에서 역행렬을 직접 만들 필요는 없다. QR 분해처럼 AᵀA를 구성하지 않는 풀이도 사용한다.