격자에 맞지 않는 주파수
주파수 후보를 0.1 간격으로 나누면 실제 정규화 주파수 0.23은 후보에 없다. 이를 0.2나 0.3에 강제로 대응시키면 모형 오차가 생긴다. 격자를 촘촘하게 만들면 후보 수가 늘고 서로 가까운 후보 파형도 매우 비슷해진다. 격자 없는 방법은 0.23 자체를 허용하는 연속 사전을 사용한다.
시간 표본과 주파수 후보
격자 없다는 표현이 관측 시간까지 불규칙하거나 연속이라는 뜻은 아니다. 정수 시각 j에서 xⱼ=Σcₖexp(i2πfₖj)로 표현되는 복소 신호를 생각할 수 있다. 이때 시간은 규칙적인 위치의 일부만 관측하고 미지의 주파수 fₖ는 연속 구간에서 찾는다.
위상 차이의 예제
한 성분의 주파수가 0.23인데 0.2로 대신하면 j=10에서 누적 위상 차이는 2π×0.03×10=0.6π 라디안이다. 짧은 구간의 작은 주파수 오차가 뒤쪽 표본에서는 큰 파형 차이를 만들 수 있다. 이 계산은 격자 불일치를 보여 줄 뿐 10개 표본으로 임의의 주파수를 항상 구분한다는 의미는 아니다.
연속 사전의 최적화
원자 노름은 허용한 기본 파형들의 조합으로 신호를 표현하는 비용을 정의한다. 복소 지수 파형에서는 이를 반정정부호 계획으로 다루는 정식화가 있다. 정확한 복원 결과는 주파수 분리, 표본 선택과 수, 계수 조건 같은 전제에 의존한다. 격자를 없앴다고 유한한 관측의 해상도나 잡음 한계까지 사라지는 것은 아니다.