구간마다 값을 정한다
입력 범위를 겹치지 않는 구간으로 나누고 각각 대표 출력을 부여한다. 어느 구간에 들어갔는지를 알면 대응하는 출력이 정해진다. 경계값을 어느 쪽 구간에 포함할지도 일관된 규칙이 필요하다.
직접 만든 구간 예
0 이상 4 미만인 입력을 폭 1의 네 구간으로 나눈다고 가정하자. 각 구간의 가운데를 대표값으로 쓰면 1.2와 1.8은 모두 1.5로 나타난다. 출력만으로 두 입력이 원래 얼마였는지를 구별할 수 없다는 예다.
오차의 정의
대표 출력에서 입력을 뺀 값을 오차로 정의하면 앞의 두 경우는 각각 0.3과 −0.3이다. 부호를 반대로 정의하면 오차 부호도 바뀐다. 최근접 대표값을 사용하는 균일 구간 내부에서는 오차 크기가 구간 폭 절반 이하라는 관계를 확인할 수 있다.
시간의 이산화와 구별한다
샘플링은 어느 시점의 값을 취할지와 관련되고 양자화는 그 값을 어떤 단계로 표현할지와 관련된다. 시간을 더 촘촘하게 기록해도 각 표본의 대표값 간격이 자동으로 작아지는 것은 아니다. 디지털 측정에서는 두 과정을 나누어 이해해야 한다.