왜 0.1과 0.2를 더하면 정확히 0.3이 되지 않나요?

컴퓨터는 숫자를 0과 1로 이루어진 이진수로만 인식하며, 소수점이 있는 실수를 저장할 때 부동소수점 방식을 사용하여 가수부와 지수부로 나누어 기록합니다. 이 과정에서 기계가 완벽하게 표현할 수 없는 미세한 오차가 발생하여 정확한 0.3 대신 이상한 숫자가 튀어나오게 됩니다.

정수와 실수가 컴퓨터 안에서 저장되는 방식의 차이점은 무엇인가요?

정수는 십진수를 이진수로 바꾸어 정해진 칸 수에 빈자리를 0으로 채워 넣는 방식으로 저장되며 표현 범위 내에서 언제나 정확한 값을 유지합니다. 반면, 실수는 부동소수점 방식을 사용하여 숫자를 가수부와 지수부로 나누어 표현하기 때문에 치명적인 약점과 함께 오차가 발생할 수 있습니다.

Data Type 변환 과정에서 발생하는 정수·실수 오차

2026년 8월 21일 읽는 시간 약 8분

컴퓨터가 숫자를 계산할 때 생기는 미세한 오차의 비밀

우리는 스마트폰으로 결제를 하고 컴퓨터로 엑셀 파일을 다루며 매일 수많은 숫자를 다루고 있습니다. 디지털 세상의 모든 숫자는 완벽하게 맞아떨어질 것 같지만, 사실 컴퓨터 내부에서는 우리가 상상하지 못한 미세한 오차들이 끊임없이 발생하고 있습니다. 영화 속 주인공이 계좌에서 1원씩 빼돌려 큰돈을 벌어들이는 것처럼, 아주 작은 오차들이 쌓여서 나중에 감당하기 큰 문제를 일으키기도 합니다.

프로그래밍이나 데이터 분석을 하다 보면 정수와 실수를 변환하는 과정에서 예상치 못한 결과를 마주하게 됩니다. 왜 0.1과 0.2를 더했는데 정확히 0.3이 되지 않고 이상한 숫자가 튀어나올까요? 이 현상은 기계가 완벽하지 않아서 생기는 자연스러운 결과물입니다. 이 글에서는 데이터 타입 변환 과정에서 왜 이런 일이 벌어지는지, 그리고 일상생활과 업무에서 이를 어떻게 현명하게 대처해야 하는지 자세히 살펴보겠습니다.

정수와 실수가 컴퓨터 안에서 저장되는 방식

컴퓨터는 인간처럼 숫자를 그대로 이해하지 못하고 오직 0과 1로 이루어진 이진수로만 세상을 인식합니다. 이 과정에서 정수와 실수를 처리하는 방식에 큰 차이가 존재합니다. 이 차이를 이해하는 것이 오차를 해결하는 첫걸음입니다.

정수가 표현되는 방식

정수는 비교적 간단하게 처리됩니다. 우리가 사용하는 십진수를 이진수로 바꾸어 정해진 칸 수에 맞게 차곡차곡 쌓아둡니다. 예를 들어 5는 이진수로 101이 되며, 정수 타입의 크기에 따라 빈자리를 0으로 채워 넣습니다. 정수는 꽉 찬 자리 안에서 표현할 수 있는 범위 내라면 언제나 정확한 값을 유지합니다.

실수가 표현되는 방식

문제는 소수점이 있는 실수입니다. 컴퓨터는 실수를 저장할 때 과학적 표기법과 유사한 방식을 사용합니다. 부동소수점 방식이라고 부르는 이 기술은 숫자를 가수부와 지수부로 나누어 기록합니다. 마치 1230000을 1.23 곱하기 10의 6승으로 표현하는 것과 같습니다.

하지만 이 방식에는 치명적인 약점이 있습니다. 우리가 흔히 쓰는 십진법의 소수는 이진법으로 완벽하게 나누어떨어지지 않는 경우가 아주 많습니다. 예를 들어 10진법의 0.1은 2진법으로 바꾸면 무한소수가 됩니다. 컴퓨터는 메모리 공간이 한정되어 있으므로 특정 자리에서 반올림하여 잘라낼 수밖에 없습니다. 이 미세한 잘림 현상이 바로 데이터 변환 오차의 주된 원인입니다.

데이터 타입 변환 과정에서 발생하는 대표적인 문제 상황

실제 업무나 개발 환경에서 이러한 오차는 다양한 형태로 우리를 당황스럽게 만듭니다. 몇 가지 흔한 상황을 통해 그 실체를 알아보겠습니다.

소수점을 정수로 강제 변환할 때 절사 오류가 발생합니다.

화폐 단위를 계산할 때 미세한 잔돈이 증발하거나 생겨납니다.
서로 다른 데이터 타입을 비교할 때 값이 같음에도 다르다고 판단합니다.
통계 데이터를 집계하는 과정에서 누적 오차가 커집니다.

특히 금융 관련 시스템이나 대규모 데이터를 다루는 곳에서는 이러한 오차가 치명적일 수 있습니다. 수백만 건의 거래 내역을 처리하는 동안 0.00001이라는 오차가 계속 더해지면 나중에는 수천 원에서 수만 원의 차이가 발생하여 장부가 맞지 않는 사태가 벌어집니다.

실생활과 업무에서 오차를 줄이는 실용적인 방법

그렇다면 우리는 이 피할 수 없는 오차와 어떻게 공존해야 할까요? 일상적인 프로그래밍과 데이터 처리 과정에서 바로 적용할 수 있는 유용한 팁들을 정리했습니다.

정밀한 계산에는 정수형 변환 활용하기

화폐나 포인트를 계산할 때는 소수점을 직접 다루지 않는 것이 좋습니다. 예를 들어 10.50달러를 계산할 때 실수형 변환을 거치지 말고, 단위를 센트로 바꾸어 1050이라는 정수로 취급하면 오차를 원천 차단할 수 있습니다. 계산이 모두 끝난 후에 다시 원래 단위로 나누어 표현하는 방식이 안전합니다.

적절한 데이터 타입 선택하기

프로그래밍 언어나 데이터베이스를 설계할 때 무조건 큰 타입이나 대충 실수를 선택해서는 안 됩니다. 소수점 이하의 정밀도가 중요하다면 일반적인 부동소수점 타입 대신 고정소수점 방식을 지원하는 타입을 사용하는 것이 현명합니다. 파이썬의 경우 십진수 연산을 완벽하게 지원하는 데시말 모듈을 활용하면 실수 연산의 오차를 깔끔하게 해결할 수 있습니다.

부동소수점 비교 연산 시 주의하기

실수끼리 같은지 비교할 때 등호 기호를 직접 쓰는 것은 매우 위험합니다. 0.1 더하기 0.2와 0.3은 컴퓨터 내부에서 완전히 같은 숫자가 아니기 때문입니다. 대신 두 숫자의 차이가 아주 미세한 허용 오차 범위 안에 들어오는지 확인하는 방식을 사용해야 합니다. 예를 들어 차이가 0.000001보다 작다면 같은 숫자로 인정하는 로직을 구현하는 것이 좋습니다.

데이터 오차에 대한 흔한 오해와 진실

사람들은 컴퓨터가 알아서 똑똑하게 계산해 줄 것이라고 맹신하는 경향이 있습니다. 데이터 오차와 관련된 대표적인 오해들을 살펴보겠습니다.

첫째, 최신 컴퓨터를 쓰면 오차가 사라질 것이라는 생각입니다. 하드웨어가 아무리 발전해도 실수를 이진수로 표현하는 근본적인 방식은 변하지 않습니다. 슈퍼컴퓨터라 할지라도 부동소수점 연산에서는 동일한 수학적 한계를 가집니다.

둘째, 화면에 보이는 숫자가 전부 맞을 것이라는 믿음입니다. 많은 프로그램이나 스프레드시트는 사용자가 보기 편하도록 소수점 아래를 반올림해서 보여줄 뿐, 내부 메모리에는 여전히 지저분한 오차 값이 남아있는 경우가 많습니다. 이 상태로 다른 데이터와 연산을 계속 진행하면 화면에는 안 보였던 오차가 갑자기 커져서 튀어나오게 됩니다.

비용과 효율을 고려한 시스템 설계 조언

모든 연산에서 완벽한 정밀도를 추구하는 것은 비용 낭비일 수 있습니다. 과학적 시뮬레이션이나 금융 거래처럼 아주 작은 오차도 용납되지 않는 영역에서는 최고급 알고리즘과 전용 데이터 타입을 써야 마땅합니다. 하지만 단순한 웹사이트의 방문자 통계나 대략적인 시각화 차트를 그릴 때는 굳이 과도한 자원을 써가며 오차를 잡을 필요가 없습니다.

개발 초기 단계부터 데이터의 성격을 정확히 파악하고 그에 맞는 타입을 지정하는 습관이 중요합니다. 나중에 시스템을 전면 수정하려면 엄청난 시간과 비용이 소모되기 때문입니다. 데이터의 범위를 예측하고 정수와 실수 중 어느 것이 더 유리한지 판단하는 안목을 기르는 것이 실무에서 가장 강력한 무기가 됩니다.