浮点数陷阱
2016-07-09 18:23
211 查看
#include<stdio.h> #include<math.h> #include<windows.h> int main() { double i; for(i=0;i!=10;i+=0.1){ printf("%.3lf\n",i); Sleep(100); } }
!=确实是不等于,但是因为累加的步长是0.1,所以不能够正常退出循环,如果你加的是1.0就可以正常退出循环。
为什么步长是0.1就不行?因为double,float这类浮点数是二进制浮点数。
它的大于一部分的值,是精确的,因为大与一的值是整数,是2^0 2^1 2^2 这样二的幂累加而得的。
小于一的部分,就不一定了,它们还是由二的幂累加,从2^-1 2^-2 2^-3也就是1/2, 1/4, 1/8这样累加起来的,这样对于有些10进制的小数,是无法精确表达的,只能近似表达。
比如0.2=1/5 这个数用2的负数次冥来表示是不行的
(二的负数次冥为1/2, 1/4, 1/8
0.2=1/5 约等于51/256 = 1/256 + 25/128 = 1/256 + 1/128 + 3/16 = 1/256 + 1/128 + 1/16 + 1/8=
0 × (1) + 0 × (1/2) + 0×(1/4) + 1 ×(1/8) + 1× (1/16) + 0 ×(1/32) + 0 ×(1/64) + 1 × (1/128) +1 × (1/256) = 0.00110011 这就是0.2的二进制小数表示。
由此可见,只要小数的值不能化为二的负冥的整数倍(这种情况很多),那么二进制表示的小数,都只能是近似值。
既然是近似值,那么累加0.1想得到10.0的精确值自然不可能,判断i != 10基本都会失败,除非累加的是精确的浮点数,比如1.0,或者0.125之类,整数个步长刚好可以达到你的判断条件—>10。
所以一般这种判断,都是用i <= 10这样。
同样的,判断某个整型数的开平方是否等于一个整数是通过if(sqrt(n)==floor(sqrt(n)))来判断。
相关文章推荐
- 【笔记】PMBOK第4章项目整合管理
- tabbaritem字体颜色,大小修改
- MYSQL运算符
- php函数笔记
- Java TPS实现
- python笔记4
- 介绍图片的三种格式:GIF、JPEG、PNG
- 编程珠玑第8章总结
- ScrollView 非手动调用的方法
- 关于crontab的坑
- centos安装netcat工具及测试
- python系列笔记3
- GDB中应该知道的几个调试方法 来自陈皓
- Hdfs block
- 微软Azure云之企业Exchange 2016部署12—配置负载平衡
- EventBus(三)-----从post这条线分析EventBus
- poj 1459 最大流 Dinic模板题
- 视屏快进快退按小片段进行
- IntelliJ IDEA 启动方法
- Ubuntu 12.04 安装JDK