어떤 직선을 기준으로 하는가
실제 측정값을 곧은 전달 특성과 비교해 휘어진 정도를 살핀다. 끝점을 잇는 직선을 사용할 수도 있고 자료에 맞춘 최적 직선을 사용할 수도 있다. 같은 자료라도 기준을 바꾸면 편차의 크기가 달라질 수 있다.
직접 만든 편차 예
이상적인 한 단계가 2 mV인 DAC에서 특정 코드의 기준 직선 값이 1.000 V라고 가정하자. 실제 값이 1.003 V라면 그 직선에 대한 편차는 +1.5 LSB다. 기준선을 다르게 정했다면 같은 실제 출력에도 다른 INL 값이 나올 수 있다.
DNL과 나누어 읽는다
미분 비선형성은 인접 단계의 간격을 본다. INL은 더 넓은 전달 범위에서 기준 직선으로부터의 편차를 살핀다. 따라서 인접 간격이 조금씩 같은 방향으로 어긋난 경우와 간격 오차가 서로 상쇄되는 경우를 같은 특성으로 볼 수는 없다.
사양의 조건을 확인한다
자료에 INL의 최대값이 표시됐다면 적용한 기준 직선과 시험 조건을 함께 확인한다. 명목 비트 수가 같은 두 장치라도 전달 특성의 오차는 다를 수 있다. 또한 INL 수치 하나가 잡음이나 고주파 응답까지 모두 나타내지는 않는다.
관련 문서
미분 비선형성 / 아날로그 디지털 변환기 / 디지털 아날로그 변환기 / 양자화 (신호 처리) / 비트 / 전압 / 직선