Rounding에 관한 이야기

IEEE 부동 소수점 연산 시 오류 발생하는 문제에 대해 조사하다가 Rounding 연산에 관심이 생겨 좀더 자료를 찾아보았다.

Microsoft 기술 자료 중에 아주 정리가 잘된 내용이 있다.

HOWTO: 사용자 정의 라운딩 프로시저 구현: http://support.microsoft.com/kb/196652/ko

Wikipedia의 Rounding 페이지

Banker's Rounding

반올림할 자리의 값이 1~4인 경우는 버리고, 6~9인 경우는 올림 처리한다. 5의 경우 그 앞자리 값이 짝수이면 버리고, 홀수이면 올림 처리한다.

  • 예

      • b_round(35.65) -> 35.6

      • b_round(35.75) -> 35.8

  • 역시 잘 정리된 내용이 있다.