单精度与双精度的区别
2014-10-23 16:40
316 查看
单精度 占四个字节存储空间 能表示的有效数位为7位 双精度 占八个字节存储空间 能表示的有效数位为16位 最好定义符点数时,都采用double类型。 因为小数在计算机中存储的多数为近似值,虽然符点数的表示方法(IEEE754标准)可以使得四字节或八字节表示很大的数据,但是,由于有的小数不能完全转换成纯粹相等的二进制数,所以,计算机只能保存最接近的其值的二进制小数。如: 0.9 d= 0.1110011001100.... B 按二进制再反算回来可能就是0.89999....了 演算方法: 0.9*2=1.8 0.8*2=1.6 0.6*2=1.2 0.2*2=0.4 0.4*2=0.8 .... 来之百度知道:空中楼阁888的问题
相关文章推荐
- vb作业,单精度与双精度的区别
- Notes: 小数精度取值函数区别
- ADC分辨率与精度的区别
- 关于精度和分辨率的区别
- 分辨率与精度的区别
- AD分辨率和精度区别
- 计算机浮点数的格式,单精度与双精度的区别
- 浮点型精度,数组越界,debug和release下运行的区别,release下的调试
- 转:ADC 分辨率和精度的区别
- ADC 分辨率和精度的区别(转载)
- 分辨率与精度的区别
- ADC 分辨率和精度的区别
- Oracle中NUMBER类型不指定长度和小数点精度与指定的区别!
- 分辨率与精度的区别
- 单精度和双精度的区别
- AD分辨率和精度区别
- 浮点型精度,数组越界,debug和release下运行的区别,release下的调试
- 分辨率与精度的区别
- AD分辨率和精度区别
- float和double类型精度表示的区别