잘 모이지만 틀린 측정
기준값이 100인 가상의 대상을 여러 번 측정했는데 104.9와 105.1 사이의 값만 나왔다고 하자. 결과끼리는 가깝지만 기준에서 한쪽으로 치우쳐 있다. 반복값의 흩어짐이 작다는 정보와 기준에 가깝다는 정보는 다르다. 이 사례는 같은 측정을 반복하는 것만으로 한 방향의 차이를 모두 없앨 수 없다는 점을 보여 준다.
조건을 정하는 이유
같은 장비로 짧은 시간 안에 반복한 결과와 다른 장비나 작업자가 얻은 결과는 조건이 다르다. 정밀도를 말할 때 어떤 조건에서 값들이 얼마나 일치하는지 밝혀야 한다. 한 실험의 촘촘한 결과를 다른 환경에서도 그대로 기대하면 안 된다. 측정 방법과 장비, 시간에 따른 차이가 있는지 함께 검토한다.
정확도를 숫자로 읽을 때
측정학에서 정확도는 그 자체에 하나의 수치를 부여하는 양으로 정의하지 않는다. 장비 사양이나 분야별 표현에서 정확도라는 말을 수치와 함께 쓰는 경우에는 실제로 어떤 오차 한계나 조건을 뜻하는지 확인해야 한다. 용어의 이름만 같다고 측정 기준과 성능 지표가 완전히 같다고 가정하지 않는다.
표시 자릿수의 함정
화면에 10.0000이라고 표시된다는 사실은 장비가 그 자릿수까지 값을 보여 준다는 뜻일 뿐이다. 표시 분해능과 실제 측정의 정확도, 반복값의 정밀도는 같은 개념이 아니다. 값이 안정적으로 보이더라도 기준과 비교한 차이나 다른 불확실성 요인이 남을 수 있다. 출력 형식이 측정 품질을 대신 설명하지 않는다.
실험에서 함께 기록하기
측정값의 평균과 흩어짐뿐 아니라 사용한 기준과 조건을 함께 남긴다. 기준에서 치우친 원인이 있다면 교정과 보정 절차를 검토하고, 반복값이 크게 흔들리면 환경과 방법을 조사한다. 어떤 개선을 했는지에 따라 확인할 지표도 달라진다. 결과끼리 가까워진 것과 기준에 더 가까워진 것을 나누어 검증한다.