위키득계정 ↗
과학

최소 노름 해

최소 노름 해과학
영문명
Minimum-norm solution
선형 문제의 대표 기준
해 벡터의 2-노름
최소제곱과의 순서
잔차 최소화 후 해의 노름 최소화
관련 연산
무어 펜로즈 유사역행렬
최소 노름 해는 여러 해 가운데 정해진 노름이 가장 작은 해다. 선형 최소제곱 문제에서는 먼저 잔차를 최소화하는 해들을 찾고, 그중 해 벡터의 2-노름이 가장 작은 것을 고른다. 잔차의 크기와 해의 크기는 서로 다른 기준이다.

해가 하나로 정해지지 않는 식

x+2y=5는 (5,0), (1,2), (-1,3)처럼 여러 해를 갖는다. 모두 식을 정확히 만족시키므로 잔차만 비교해서는 우열을 가릴 수 없다. 원점과의 거리가 가장 작은 해를 추가 기준으로 삼을 수 있다.

최솟값을 직접 확인하기

모든 해를 x=1-2t, y=2+t로 쓰자. x+2y는 언제나 5이고 x²+y² = 5+5t²다. 따라서 t=0인 (1,2)에서 2-노름이 가장 작고 그 값은 √5다. (5,0)의 노름 5보다 작다.

근사 문제에서도 두 기준을 구분한다

불일치 시스템에서는 잔차가 0인 해가 없을 수 있다. 이때도 잔차를 최소로 만드는 해가 여러 개라면 그 안에서 최소 노름 해를 선택한다. 무어 펜로즈 유사역행렬로 얻는 최소 노름 최소제곱 해가 이 개념과 연결된다.

정칙화 문제와는 구별하기

잔차 제곱과 해의 노름 제곱을 가중해 더한 목적함수를 최소화하면 두 기준을 맞바꾸는 다른 문제가 된다. 반드시 최소 잔차를 먼저 달성하는 방식과 같지 않다. 또한 노름을 정의할 때 좌표마다 다른 가중치를 주면 가장 작은 해도 바뀔 수 있으므로 어떤 기준을 쓰는지 명시해야 한다.

관련 문서

무어 펜로즈 유사역행렬 / 최소제곱법 / LSQR / 영공간 / 연립방정식 / 벡터