3 float和double的取值范围和精度
2018-02-12 14:22
801 查看
float是32位,double是64位
float 32位中,有1位符号位,8位指数位,23位尾数位。
double 64位中,有1位符号位,11位指数位,52位尾数位
取值范围看指数部分:
float:8为指数位,(-2^7~2^7-1)=(-128~127)
float取值范围:-2^127~2^127 也即 -1.70e+38~+1.70e+38
double:11位指数位,(-2^10~2^10-1)=(-1024~1023)
double取值范围:-2^1023~2^1023 也即 -8.99e+307~+8.99e+307
精度看尾数部分:
float:2^(-23)=0.00000011920928955078125,前面有多少个0,就能精确到哪一位,精度为6位。
double:2^(-52)=0.00000000000000022204460492503130808472633361816,精度为15位。
float 32位中,有1位符号位,8位指数位,23位尾数位。
double 64位中,有1位符号位,11位指数位,52位尾数位
取值范围看指数部分:
float:8为指数位,(-2^7~2^7-1)=(-128~127)
float取值范围:-2^127~2^127 也即 -1.70e+38~+1.70e+38
double:11位指数位,(-2^10~2^10-1)=(-1024~1023)
double取值范围:-2^1023~2^1023 也即 -8.99e+307~+8.99e+307
精度看尾数部分:
float:2^(-23)=0.00000011920928955078125,前面有多少个0,就能精确到哪一位,精度为6位。
double:2^(-52)=0.00000000000000022204460492503130808472633361816,精度为15位。
相关文章推荐
- Java--float/double取值范围与精度
- float与double的范围和精度
- Java 浮点数 float和double类型的表示范围和精度
- java中short、int、long、float、double取值范围
- 关于float/double的取值范围和表示! - C语言
- Java笔记19 - java中short、int、long、float、double取值范围
- 准确详解:C/C++ float、double数据类型的表示范围及精度
- float与double的范围和精度
- float与double的范围和精度
- float与double的范围和精度
- float与double的范围和精度
- float与double类型的内存分布,精度和范围
- Java 浮点数 float和double类型的表示范围和精度
- float与double的范围和精度
- java中byte、short、int、long、float、double类型的取值范围
- java数值范围以及float与double精度丢失问题
- 基本数据类型操作二:float与double的范围和精度
- C语言中关于float、double、long double精度及数值范围理解
- float与double的范围和精度
- float与double的范围和精度