가우스 필터

거리와 가중치

일차원에서 중심으로부터 j칸 떨어진 표본의 정규화 전 가중치를 exp(-j²/(2σ²))로 둘 수 있다. σ는 가중치가 퍼지는 정도를 정한다. 실제 유한 커널에서는 사용할 범위를 정하고 가중치 합이 1이 되도록 맞춘다. σ와 커널을 어디까지 자르는지는 서로 다른 설정이다. 같은 σ라도 범위를 지나치게 좁히면 의도한 모양과 다른 근사가 될 수 있다.

세 점 커널의 예제

σ=1이고 위치 -1,0,1만 사용한다고 하자. 정규화 전 가중치는 (e^-1/2,1,e^-1/2)이며 합은 약 2.213이다. 이 커널을 (0,10,0)의 중심에 적용하면 약 4.519를 얻는다. 같은 세 점의 단순평균 약 3.333과는 다르다. 모든 값이 2이면 가중치 합이 1이므로 내부 구간의 결과도 2다.

다차원과 경계

각 축의 가우스 가중치가 분리되는 커널은 축별 일차원 합성곱을 순서대로 적용할 수 있다. 축마다 다른 σ를 사용할 수도 있다. 이미지의 가로·세로와 색상 채널을 같은 축처럼 무심코 섞어 처리하지 않아야 한다. 가장자리에서는 반사, 가장 가까운 값 반복, 상수 확장 등 선택한 방식이 결과에 영향을 준다. 내부에서 상수가 유지되는 성질도 경계 확장 방식에 따라 달라질 수 있다.

평활화와 정보 손실

평활화는 빠른 변화를 약화하므로 잡음뿐 아니라 실제 경계와 세부 구조도 흐려질 수 있다. 정수형 출력이나 낮은 정밀도의 중간 계산에서는 반올림과 잘림의 영향도 확인한다. 미분 차수를 사용하는 필터는 일반 평활화와 목적이 다르다. 설정을 바꿔 잡음 감소와 세부 보존을 함께 평가하고 결과가 부드럽다는 이유만으로 원래 신호에 가까워졌다고 판단하지 않는다.