상수가 아니라 비율의 문제다
출력에 같은 양을 더하는 오프셋과 달리 이득 차이는 입력 변화에 비례한 편차를 만든다. 이상적인 직선과 실제 특성의 기울기를 비교하되 코드 전환 또는 끝점 등 구체적인 측정 기준은 제품 정의를 따른다.
직접 계산한 예
양자화와 포화를 제외한 가상의 전압 환산 출력이 y = 1.01x + 0.002라고 하자. x와 y의 단위는 V다. 상수항 2 mV를 제거해도 입력 1 V의 출력은 1.01 V가 된다. 이 모델에서 기울기는 이상값보다 1% 크다. 입력 0.1 V에서는 이득에 따른 추가 차이가 1 mV다.
전체 끝점 오차와 구분한다
앞의 모델에서 입력 1 V일 때 총 차이는 12 mV다. 여기에는 10 mV의 이득 성분과 2 mV의 오프셋이 함께 있다. 끝점에서 본 총 차이를 모두 이득 오차로 부르면 보정 방식도 달라진다. 데이터시트의 풀스케일 오차가 무엇을 포함하는지 확인한다.
비례 보정 이후에도 남는 것
모델이 안정적이고 포화되지 않았다면 상수항을 제거하고 기울기로 나누는 보정을 생각할 수 있다. 그러나 코드별 비선형성, 잡음과 온도 변화가 자동으로 사라지는 것은 아니다. 이득 오차가 작다는 이유만으로 전체 입력 범위에서 같은 정확도를 보장한다고 해석하지 않는다.
관련 문서
ADC 오프셋 오차 / 아날로그 디지털 변환기 / 적분 비선형성 / 미분 비선형성 / 양자화 (신호 처리) / 신호대잡음비