기울기에서 후보로
잡음이 미분 과정에서 두드러질 수 있어 평활화를 사용하고 가로·세로 밝기 변화를 구한다. 두 성분으로 기울기 크기와 방향을 계산한다. 이때 기울기가 큰 영역은 폭이 있는 띠처럼 나타날 수 있다. 비최대 억제는 기울기 방향의 이웃과 비교해 국소적으로 크지 않은 후보를 줄이는 단계다. 단순히 영상의 모든 방향에서 가장 밝은 화소를 찾는 것은 아니다.
두 임계값과 연결
높은 임계값을 넘는 강한 후보와 낮은 임계값은 넘지만 높은 값은 넘지 않는 약한 후보를 구분한다. 약한 후보는 강한 후보와 연결되는지에 따라 유지 여부가 달라진다. 강한 후보에 직접 닿은 경우뿐 아니라 남아 있는 약한 후보들의 경로를 통해 연결되는 경우도 고려한다. 하나의 임계값으로 독립적으로 자르는 방식과 차이가 있다.
같은 크기라도 다른 결과
비최대 억제 후 남은 후보를 생각하고 낮은 임계값을 10, 높은 임계값을 20으로 두자. 크기 25인 강한 후보에 크기 15인 후보가 연결돼 있으면 약한 후보도 유지할 수 있다. 다른 곳의 크기 15 후보가 강한 후보로 이어지는 경로를 갖지 않으면 제외한다. 크기 5 후보는 낮은 임계값에 미치지 못한다. 같은 15라도 연결 구조에 따라 결과가 달라지는 예제다.
설정과 해석
임계값, 평활화 정도와 기울기 계산 방식에 따라 선의 연속성과 잡음 반응이 달라진다. 기울기 크기를 유클리드 방식으로 구하는지 두 성분 절댓값의 합으로 구하는지도 확인한다. 검출된 에지는 물체의 의미나 경계를 자동으로 확정한 결과가 아니다. 그림자나 질감도 밝기 변화를 만들 수 있으므로 실제 목적에서 끊김과 오검출을 함께 평가한다.