您的位置:首页 > 编程语言 > C语言/C++

c语言float数值精度

2011-08-07 23:21 225 查看
http://zh.wikipedia.org/wiki/IEEE_754

http://cprogramsjzu.blog.sohu.com/81276949.html

得到的a和b的值都是12345678848.000000

为什么本应该有7个有效数字,这里却是前8位都一样呢???

能保证7位准确,并不是说第8位就肯定不准确。

具体解释:

计算机保存浮点数时,是把数看作a*2^b这样的形式,不是以10为底数,而是以2为底数。即将数转换成以2为底的“科学计数法”的形式,再由这个形式反转换成10进制形式,但数据又有位数限制,所以有些数转换成二进制计数法形式后位数超出了限制的位数,那么转换回来时得到的数就会与原数有偏差,不同的数这个偏差是不同的,有可能在小数点后第7位,也有可能在第8位,也有可能在其他位数,但能保证小数点第6位之前是正确的

Type Exponent length Mantissa length

float 8 bits 23 bits

浮点数的有效位:23Bits,合24位

其分辨率为:1/(2^24)=0.000,000,059,604644775390625

=0.000,000,06

即浮点数可表示的最小数的单位为0.000000059604644775390625;

其他的数都由0.000000059604644775390625 * 2^X来表示的,

12345678920

12345678900

000000059604644775390625

=12345678848

12345678848=0.000000059604644775390625 * 2^X

具体计算略
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: