가장 큰 오차를 줄이는 목적
목표 진폭 응답을 D(f),실현할 응답을 A(f),대역 가중치를 W(f)라 하면 지정 대역에서 W(f)|A(f)−D(f)|의 최댓값을 최소화하는 문제다. 특정 몇 주파수만 완벽히 맞추는 대신 가장 나쁜 편차를 관리한다. 통과대역과 저지대역의 상대 가중치를 달리하면 어느 대역의 오차를 더 강하게 제한할지 조정할 수 있다.
최소제곱과 다른 선택
단순한 세 평가점 예에서 오차가 (0.2,0.2,0.2)이면 최대 오차는 0.2이고 제곱합은 0.12다. 다른 후보의 오차가 (0.3,0,0)이면 최대는 0.3이지만 제곱합은 0.09다. 최대 오차 기준은 첫 후보를,제곱합 기준은 두 번째를 선호한다. 이는 목적함수 차이를 보여 주는 수치 예이며 실제 필터의 계수를 계산한 결과는 아니다.
대역과 전이 구간 지정
저역통과 필터에서 통과대역과 저지대역 사이에는 전이 구간을 둘 수 있다. 예를 들어 표본화율 48000Hz에서 0부터 5000Hz의 목표를 1,7000Hz부터 나이퀴스트 주파수 24000Hz의 목표를 0으로 정할 수 있다. 5000부터 7000Hz는 같은 오차 조건을 강제하지 않는 구간이다. 지정하지 않은 구간의 응답도 자동으로 원하는 모양이라고 가정하지 않는다.
탭 수와 검증
탭 수가 L이면 필터 차수는 L−1이다. 계수가 대칭인 홀수 길이 선형 위상 FIR에서 지연은 (L−1)/2 표본이므로 L=31이면 15표본이다. 48000Hz에서는 0.3125ms다. 최적이라는 표현은 선택한 길이와 대역,가중치,설계 유형에 대한 것이며 모든 가능한 필터의 절대 우월성을 뜻하지 않는다. 설계 뒤 주파수 응답과 수렴 상태를 확인한다.