개발의 시작과 끝
2020.05.13 / Day - 31 IT 기초 부동소수점과 그 한계 본문
30일차
부동소수점과 그 한계
부동소수점 방식이란 소수점이 포함된 실수를 표현하기 위해 사용되며
부호 비트, 지수 부분, 가수 부분으로 구성되는 방식이다.
가수 : 실수의 실제 값.
지수 : 크기를 표현, 가수의 어디쯤에 소수점이있는지를 나타낸다.
즉, 지수의 값에 따라 소수점이 움직이기 때문에 이 방식으로 실수를 표현하는 방법을 부동 소수점이라고 한다.
부동 소수점은 적은 비트로 큰 수를 표현할 수 있지만, 이런 효율성은 정확성을 떨어뜨릴 수 밖에 없다.
또한 1/10은 이진 소수로 정확히 표현할 수 없기 때문에 한계가 있을 수 밖에 없다.
'풀스택 > IT 기초' 카테고리의 다른 글
2020.05.13 / Day - 31 IT 기초 응용 프로그래머, 웹 프로그래머 (0) | 2020.05.13 |
---|---|
2020.05.13 / Day - 31 IT 기초 데이터베이스 (0) | 2020.05.13 |
2020.05.13 / Day - 31 IT 기초 서버 (0) | 2020.05.13 |
2020.05.13 / Day - 31 IT 기초 메모리 영역, 메모리 할당 (0) | 2020.05.13 |
2020.05.13 / Day - 31 IT 기초 기계어와 어셈블리언어, 컴파일과 컴파일러 (0) | 2020.05.13 |