개발의 시작과 끝

2020.05.13 / Day - 31 IT 기초 부동소수점과 그 한계 본문

풀스택/IT 기초

2020.05.13 / Day - 31 IT 기초 부동소수점과 그 한계

개발지혜 2020. 5. 13. 12:15

30일차

 

부동소수점과 그 한계

부동소수점 방식이란 소수점이 포함된 실수를 표현하기 위해 사용되며

부호 비트, 지수 부분, 가수 부분으로 구성되는 방식이다.

가수 : 실수의 실제 값.

지수 : 크기를 표현, 가수의 어디쯤에 소수점이있는지를 나타낸다.

즉, 지수의 값에 따라 소수점이 움직이기 때문에 이 방식으로 실수를 표현하는 방법을 부동 소수점이라고 한다.

부동 소수점은 적은 비트로 큰 수를 표현할 수 있지만, 이런 효율성은 정확성을 떨어뜨릴 수 밖에 없다.

또한 1/10은 이진 소수로 정확히 표현할 수 없기 때문에 한계가 있을 수 밖에 없다.