FFT 빈 사이에 놓인 성분
표본화 주파수가 1000Hz이고 표본 수가 100이면 FFT 빈 간격은 10Hz다. 100Hz 성분은 빈 중심에 놓이지만 105Hz는 두 빈 사이에 놓인다. 이때 가장 가까운 빈에서 읽은 크기는 성분의 위치와 창 응답에 따라 달라진다. 빈 중심에서 경계로 이동할 때 발생하는 진폭 측정의 변화가 스캘로핑 오차와 연결된다.
어떤 부분을 평평하게 만드는가
플랫톱 창의 대표적인 형식은 다섯 코사인 항의 계수를 조절해 주파수 응답의 주엽 꼭대기를 평평하게 만든다. 시간 영역에서 가운데 값이 일정한 튜키 창의 평탄 구간과는 다른 의미다. 같은 플랫톱이라는 이름으로도 계수 관례가 다를 수 있으므로 정확한 수치 결과를 비교하려면 사용한 정의를 맞춰야 한다.
진폭 정규화도 필요하다
DFT를 X_k=Σw_n x_n exp(−2πikn/M)로 정의하자. 입력이 빈 중심 k₀에 놓인 복소 지수 x_n=A exp(2πik₀n/M)이면 X_(k₀)=AΣw_n이다. 따라서 창의 합으로 나누어야 원래 진폭 A를 복원한다. 예를 들어 A=3이면 출력은 3Σw_n이지 자동으로 3이 아니다. 실수 사인파에서는 양·음 주파수 성분과 별도의 척도 관례도 확인한다.
진폭 정확도와 주파수 분해능
평평한 주엽으로 진폭 오차를 낮추는 선택에는 주엽 폭 등의 절충이 따른다. 가까운 두 성분을 구분하려는 목적과 고립된 성분의 크기를 읽으려는 목적이 같지는 않다. 창 하나를 바꾸는 것만으로 표본 길이 부족이나 잡음이 모두 해결되지 않는다. 대칭형과 주기형,창 이득,빈 위치를 함께 고려해 측정값을 해석한다.