My Boundary As Much As I Experienced

고정소수점과 부동소수점 본문

Computer Basics

고정소수점과 부동소수점

Bumang 2023. 8. 1. 09:08
고정소수점(Fixed point) 부동소수점(Floating point)
움직이지 않고 고정된 소수점을 말한다.
고정되지 않고 움직이는 소수점을 뜻한다. 

 

고정 소수점의 표현 방식

 

고정 소수점의 경우 정수부분와 소수부분으로 나누기에 정수부분이 일정 자릿수보다 큰 수는 다룰 수 없게 된다.

32비트의 경우, 정수 부분이 8비트가 넘어가는 수는 다룰 수 없게 되는 것이다.

=> 그냥 정직하게 이진수로 저장하는 듯...?

 

 

 

 

부동 소수점의 표현 방식

하지만 부동소수점은 정수, 소수 대신 가수,지수로 다루기에 정수 부분이 8비트가 넘어가는 큰 수도 다룰 수 있다. 예를 들어, 1111101011.101이라는 수를 1.111101011101×2^9로 정규화하여 충분히 32비트 안에 표현할 수 있기 때문이다.

 

이와 같은 부동소수점 표현 방식은 위에서 살펴본 고정소수점 표현 방식에 비해서비트 수 대비 표현 가능한 수의 범위와 정밀도 측면에서 보다 우위에 있다.

=> x.xxxxxx * 2^x식의 곱셈 형식으로 변환하여 고정 소수점보다 더 큰 값을 정밀하게 표현가능

'Computer Basics' 카테고리의 다른 글

ARM 프로세서란?  (0) 2023.08.07
패리티 비트(Parity Bit)와 해밍코드(Hamming Code)  (0) 2023.08.01
캐시메모리(Cache Memory)  (0) 2023.07.24
CPU의 명령어 처리 사이클  (0) 2023.07.24
컴퓨터의 구성  (0) 2023.07.17