Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- KAKAO
- CS
- 컴퓨터과학
- 코딩테스트
- github
- 호이스팅
- js
- 컴퓨터공학
- LinkSnap
- nodejs
- 국비지원
- cpu
- DFS
- CSS
- git
- html/css/js
- 부트캠프
- Javascript
- 야놀자
- 알고리즘
- computerscience
- 그리디
- 자바스크립트
- 너비우선탐색
- 프론트엔드개발자
- BFS
- 국비지원취업
- 코테
- 패스트캠퍼스
- 백준
Archives
- Today
- Total
My Boundary As Much As I Experienced
고정소수점과 부동소수점 본문
고정소수점(Fixed point) | 부동소수점(Floating point) |
움직이지 않고 고정된 소수점을 말한다. |
고정되지 않고 움직이는 소수점을 뜻한다. |
고정 소수점의 표현 방식
고정 소수점의 경우 정수부분와 소수부분으로 나누기에 정수부분이 일정 자릿수보다 큰 수는 다룰 수 없게 된다.
32비트의 경우, 정수 부분이 8비트가 넘어가는 수는 다룰 수 없게 되는 것이다.
=> 그냥 정직하게 이진수로 저장하는 듯...?
부동 소수점의 표현 방식
하지만 부동소수점은 정수, 소수 대신 가수,지수로 다루기에 정수 부분이 8비트가 넘어가는 큰 수도 다룰 수 있다. 예를 들어, 1111101011.101이라는 수를 1.111101011101×2^9로 정규화하여 충분히 32비트 안에 표현할 수 있기 때문이다.
이와 같은 부동소수점 표현 방식은 위에서 살펴본 고정소수점 표현 방식에 비해서비트 수 대비 표현 가능한 수의 범위와 정밀도 측면에서 보다 우위에 있다.
=> x.xxxxxx * 2^x식의 곱셈 형식으로 변환하여 고정 소수점보다 더 큰 값을 정밀하게 표현가능
'Computer Basics' 카테고리의 다른 글
ARM 프로세서란? (0) | 2023.08.07 |
---|---|
패리티 비트(Parity Bit)와 해밍코드(Hamming Code) (0) | 2023.08.01 |
캐시메모리(Cache Memory) (0) | 2023.07.24 |
CPU의 명령어 처리 사이클 (0) | 2023.07.24 |
컴퓨터의 구성 (0) | 2023.07.17 |