您的位置:首页 > 其它

浮点数陷阱

2016-07-09 18:23 211 查看
#include<stdio.h>
#include<math.h>
#include<windows.h>
int main()
{
double i;
for(i=0;i!=10;i+=0.1){
printf("%.3lf\n",i);
Sleep(100);
}
}


!=确实是不等于,但是因为累加的步长是0.1,所以不能够正常退出循环,如果你加的是1.0就可以正常退出循环。

为什么步长是0.1就不行?因为double,float这类浮点数是二进制浮点数。

它的大于一部分的值,是精确的,因为大与一的值是整数,是2^0 2^1 2^2 这样二的幂累加而得的。

小于一的部分,就不一定了,它们还是由二的幂累加,从2^-1 2^-2 2^-3也就是1/2, 1/4, 1/8这样累加起来的,这样对于有些10进制的小数,是无法精确表达的,只能近似表达。

比如0.2=1/5 这个数用2的负数次冥来表示是不行的

(二的负数次冥为1/2, 1/4, 1/8

0.2=1/5 约等于51/256 = 1/256 + 25/128 = 1/256 + 1/128 + 3/16 = 1/256 + 1/128 + 1/16 + 1/8=

0 × (1) + 0 × (1/2) + 0×(1/4) + 1 ×(1/8) + 1× (1/16) + 0 ×(1/32) + 0 ×(1/64) + 1 × (1/128) +1 × (1/256) = 0.00110011 这就是0.2的二进制小数表示。

由此可见,只要小数的值不能化为二的负冥的整数倍(这种情况很多),那么二进制表示的小数,都只能是近似值。

既然是近似值,那么累加0.1想得到10.0的精确值自然不可能,判断i != 10基本都会失败,除非累加的是精确的浮点数,比如1.0,或者0.125之类,整数个步长刚好可以达到你的判断条件—>10。

所以一般这种判断,都是用i <= 10这样。

同样的,判断某个整型数的开平方是否等于一个整数是通过if(sqrt(n)==floor(sqrt(n)))来判断。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: