[CS 스터디] 고정 소수점 & 부동 소수점

고정 소수점 & 부동 소수점

컴퓨터의 실수 표현 방식

1. 고정 소수점
2. 부동 소수점

1. 고정 소수점(Fixed Point)

소주점이 찍힐 위치를 미리 정해두고 소수를 표현하는 방식 (정수 + 소수)

ex. -3.1415 ⇒ 부호(-), 정수부(3), 소수부(0.1415)로 구성

장점 : 실수를 정수부와 소수부로 표현하여 단순하다.

단점 : 표현의 범위가 너무 적어서 활용하기 힘들다. (정수부는 15bit, 소수부는 16bit)

 

2. 부동 소수점(Floating Point)

지수의 값에 따라 소수점이 움직이는 방식을 활용한 실수 표현 방식

실수를 가수부 + 지수부로 표현

• 가수: 실수의 실제값 표현
• 지수: 크기 표현. 가수의 어디쯤에 소수점이 있는지 나타냄

📌 수식

$±(1.가수부)×2지수부-127$

장점 : 표현할 수 있는 수의 범위 넓어짐 (현재 대부분 시스템에서 활용)

단점 : 오차 발생 가능

부동소수점으로 표현할 수 있는 방법이 매우 다양하므로 오차 발생. 컴퓨터에서 실수는 근사치에 대한 표현임을 알아야 함