왜 짧은 소수도 근사되는가
분수는 사용하는 진법에 따라 유한하게 끝날 수도 있고 계속 반복될 수도 있다. 십진수로 짧게 적힌다는 사실만으로 이진수에서도 유한한 자릿수로 표현된다고 보장되지 않는다. 제한된 비트에 저장하려면 가까운 표현 가능한 값으로 맞춰야 하는 경우가 생긴다. 이것은 화면에 몇 자리를 출력했는지와 별개의 문제다.
표시와 계산을 구분한다
화면에 소수 둘째 자리까지만 보여 주면 작은 차이가 보이지 않을 수 있다. 그러나 표시 문자열을 만들었다고 원래 숫자가 그 문자열과 같은 정확한 십진 값으로 바뀌는 것은 아니다. 반대로 중간 계산마다 자릿수를 줄이면 원래보다 큰 누적 오차가 생길 수도 있다. 어느 단계에서 어떤 규칙으로 반올림할지 계산 목적에 맞추어 정한다.
같음 비교의 기준
수치 계산 결과를 비교할 때 무조건 정확한 등호만 쓰면 작은 근사 차이를 서로 다른 결과로 처리할 수 있다. 그렇다고 모든 문제에 같은 아주 작은 상수를 더하는 방식도 충분하지 않다. 값의 크기와 단위에 맞는 절대 오차나 상대 오차 기준을 검토한다. 0 부근에서는 상대 오차만으로 판단하기 어려울 수 있다.
대체 표현에도 규칙이 있다
정해진 최소 단위의 금액을 정수로 다루면 해당 단위의 덧셈을 정확히 할 수 있지만 비율 계산과 나눗셈의 반올림 규칙은 여전히 필요하다. 십진 연산도 설정한 정밀도와 연산 종류에 따라 반올림이 발생할 수 있다. 어떤 자료형도 모든 실수를 무한히 정확하게 계산해 주는 만능 해결책은 아니다.
시험할 값의 범위
작은 양수만으로 계산을 확인하지 않는다. 크기가 매우 다른 값, 0 근처 값, 음수, 반올림 경계와 반복 연산을 나누어 점검한다. 출력이 보기 좋다는 사실을 정확성의 증거로 삼지 않는다. 허용 오차의 근거와 실제 사용 범위를 정하면 우연히 맞아 보이는 계산과 목적에 맞는 계산을 구별할 수 있다.