수치 정밀도

0.1 더하기 0.2가 0.3이 아닌 이유 거의 모든 프로그래밍 언어에서 0.1 더하기 0.2를 계산하면 0.3이 아닌 0.30000000000000004 같은 값이 나온다. 처음 이걸 본 개발자는 보통 언어 버그라고 생각한다. 그러나 이건 버그가 아니라 컴퓨터가 실수를 표현하는 방식의 구조적 한계다. 이 한계를 체계적으로 정리한 데이비드 골드버그(David Goldberg)의 “모든 컴퓨터과학자가 부동소수점 연산에 대해 알아야 할 것”은 1991년에 발표된 … 더 읽기