위키득계정 ↗
기술

십진수 계산과 입력 변환

십진수 계산과 입력 변환기술
입력
원래 십진 문자열의 의미 보존
변환 주의
이미 근사된 이진 값
연산 설정
정밀도와 반올림 방식
출력
표시 자릿수와 저장값 구분
십진수 연산 자료형을 사용해도 입력을 먼저 이진 부동소수점으로 바꾸었다면 그 근삿값이 전달될 수 있다. 원하는 십진 의미를 보존하려면 입력 형식부터 연산 정밀도와 출력 반올림까지 일관되게 설계해야 한다.

출발점이 다른 숫자

사용자가 적은 소수 문자열을 바로 십진 자료형으로 읽는 경우와 이를 먼저 이진 부동소수점으로 읽은 뒤 십진 자료형으로 옮기는 경우는 같다고 가정할 수 없다. 두 번째 경로는 중간에 근사된 값을 출발점으로 삼을 수 있다. 마지막 자료형의 이름만 보고 처음 입력의 의미가 그대로 보존되었다고 판단하지 않는다.

끝나지 않는 나눗셈

십진수라고 모든 나눗셈 결과가 유한하게 끝나지는 않는다. 2를 7로 나누는 값은 십진 표현에서도 반복되므로 유한 정밀도에서 계산하려면 반올림이 필요하다. 정확히 표현 가능한 입력을 사용했다는 사실과 모든 연산의 결과가 정확하다는 사실은 구별해야 한다. 필요한 정밀도는 예상 연산과 허용 오차에 맞춘다.

자리와 유효 숫자

소수점 뒤 자리 수와 유효 숫자의 개수는 다르다. 값의 크기가 바뀌면 같은 유효 숫자 정밀도가 허용하는 소수점 뒤 자리 수도 바뀔 수 있다. 고정된 화폐 단위나 규정된 보고 형식이 있으면 최종 자릿수를 별도로 맞추는 규칙이 필요하다. 단지 정밀도를 크게 정했다고 원하는 출력 형식이 완성되지는 않는다.

반올림 단계의 선택

각 항목을 먼저 반올림해 합산한 결과와 원래 값을 합산한 뒤 한 번 반올림한 결과는 다를 수 있다. 이는 자료형을 바꾸는 것만으로 정해지지 않는 업무 규칙이다. 항목별 계산과 합계 계산 가운데 어느 단계에서 단위를 확정하는지 문서화한다. 검증 예제에는 반올림 경계에 가까운 여러 항목을 포함하면 차이를 확인하기 쉽다.

왕복 변환 점검

입력, 계산, 저장, API 전달, 화면 표시 사이에서 숫자가 어떤 형태로 이동하는지 확인한다. 중간 단계가 자동으로 이진 숫자로 바꾸면 처음 보존한 십진 의미가 달라질 수 있다. 숫자 문자열을 쓸지 최소 단위 정수를 쓸지 등 전달 계약을 함께 정한다. 정확성은 한 함수 내부보다 전체 경로에서 유지해야 한다.

관련 문서

상대 변화율과 절대 변화량 / 알고리즘