Numerical Methods for Material Scientists 20080911 1 st

Numerical Methods for Material Scientists 20080911 1 st presentaion by Lee, jisan

Assignment • 현재 사용하고 있는 컴퓨터가 single precision 에서 구분할 수 있는 수의 정밀도가 어느 정도인지 프로그램을 짜서 확 인하고, 이 system 이 몇 개의 bit 로 가수(mantissa)를 표현 하는지 판정하시오. • Computer 에서의 수의 체계: (-1)s × 2 c-1023 × (1 + f) s: sign indicator (the first bit) c: exponent (11 -bit in 64 bit, 8 bit in 32 bit) f: mantissa (52 -bit in 64 bit, 23 bit in 32 nit)

Result : Single Precision

Result : Double precision

Result Index 의 범위 Precision 2 -3≤ index <2 -2 2 -26 2 -2≤ index <2 -1 2 -25 2 -1≤ index <20 2 -24 20≤ index <2 2 -23 2≤ index <22 2 -22 22≤ index <23 2 -21 23≤ index <24 2 -20 24≤ index <25 2 -19 …… …… 2 n≤ index <2 n+1 2 n-23