01. 수와 오차(Number and Error)

 

1. 1. 수의 표현(Represenation of Number on a Computer)

 

- 컴퓨터에서 수의 표현방법은 고정소수점(Fixed Point), 부동소수점(Floating Point) 2가지가 있다.

 

- 32bit Base -> Fixed Point: 1bit: Sign / 15bit: Integer Part(지수부) / 16bit: Fractional Part(가수부)

 

- 32bit Base -> Floating Point: 1bit: Sign / 8bit: Exponent / 23bit: Mantissa.

 

- 수가 너무 커서 표현을 못하면(Overflow) 올바른 연산을 할 수 없고, 수가 너무 작으면(Underflow) 일반적으로 0 으로 처리한다.

 

- 32Bit : Single Precision / 64Bit: Double Precision.

 

 

- a 자릿 수 2개의 Fixed Point 의 사칙 연산은 2a 길이의 자릿 수 용량을 갖는 연산장치로 행해진다.

 

- 수학적으로 동일한 식이여도 계산 순서가 다르면 연산결과가 달라질 수 있다.

 

  가급적 곱셈과 나눗셈을 먼저 계산하고, 같은 연산기호 끼리는 비슷한 크기의 수끼리 먼저 연산한다.

 

- Comparesion Between Floating Point 에서는 두 수의 차이가 일정 허용오차 이내에 있는지 반드시 확인한다.

 

   if( A == B) then -> if(fabs(A - B) < eps)then.

 

---

 

1. 2. 오차(Error)

 

- 컴퓨터에서는 무한한 수를 저장할 수 없어서, 유한한 수로 표현해야 하므로 오차가 발생한다.

 

- 마무리오차(Rounding-Off Error): 컴퓨터에서 수치를 계산할 때, 저장할 수 있는 자릿수에는 한계가 있으므로 반올림 등으로 발생하는 오차.

 

- 절단오차(Truncation Error): 무한 합을 계산할 수 없으므로 유한개의 합으로 계산할 댸 발생하는 오차.

 

 

- True Value x, 컴퓨터에 저장된 Approximation x_bar.

 

  1) 절대오차(Absolute Error): | x – x_bar |.

 

  2) 상대오차(Relative Error): | x – x_bar | / | x |.

 

  3) 기계오차(Machine Epsilon): 컴퓨터에서 표현할 수 있는 가장 작은 양의 실수 ε.

 

---