为何浮点数(float,double)不能直…
2015-10-10 09:21
330 查看
很早就听说了这个说法,但一直知其然,不知其所以然。实际编程的时候有些时候记得,有些时候也忘了,但似乎也没有受到什么惩罚。昨天晚上读《深入了解计算机系统》(好书,顺便推荐)才算对此有了比较深入的理解。
书上提到gcc浮点比较的一个Bug,上网一搜,发现是个老大难问题:http://gcc.gnu.org/bugzilla/show_bug.cgi?id=323。最后这个Bug并没有标志成Fixed。不过我试验不出来嘿。不知道是不是我软硬件平台太先进的缘故。
浮点比较有两个缺少共识的地方,所以最好还是尽量不要直接比较,虽然我试验似乎总是OK。
1)按照IEEE标准,0有+0和-0两种形式,但它们比较结果?在我机器上测试结果是相等,但如果有些平台说不等,那也是很正常的。文章最后的代码可以测试+0
-0 浮点数是否相等,并打印出它们的内存结构。
2)IA32中浮点寄存器是80bit的。保存在寄存器(计算过程中)的浮点精度是大于double的,这样弄进内存的时候才能四舍五入。假设寄存器精度4位
有效数字,内存精度3位。计算 1 / 3 = 0.3333(寄存器) -> 0.333 (内存) 。
那么就可能发生 ((1/3) != (1/3))
这种让人欲哭无泪的结果,这也是Bug323所提到的。不过我没测试出这种情况。
最后,由于浮点型的精度是有限的,经过运算就可能存在舍入误差。这样就可能发生类似 (x / y) * y != x
这种情况。所以直接用“==”往往也过于严格了。浮点型的比较还是用 abs(f - E) <
ellipse 这种式子会比较安全,ellipse是一个比较小的数字,可理解为允许的误差,取值取决于应用。
=======下面代码逐BYTE打印+0,-0的内存数据并比较它们是否相等=======
#include <iostream>
#include <cstdlib>
using namespace std;
int main(void) {
double f1 =
1e-1000;
//
弄个很小的正小数
double f2 =
-1e-1000;
//
弄个很小的负小数
cout
<< f1
<<
endl;
//
打印 0
cout
<< f2
<<
endl;
//
打印 -0
for (int i =
0; i < sizeof(double); ++
i)
//
0 0 0 0 0 0 0 0
{
int value =
*((unsigned char*)(&f1) + i);
printf("%x
", value);
}
cout
<< endl;
for (int i =
0; i < sizeof(double); ++
i)
//
0 0 0 0 0 0 0 80 (-0的LE表现形式)
{
int value =
*((unsigned char*)(&f2) + i);
printf("%x
", value);
}
cout
<< endl;
if (f1 ==
f2) {
cout
<< "+0 == -0"
<< endl;
} else
{
cout
<< "+0 != -0"
<< endl;
}
return
0;
}
==============================================
相关文章推荐
- 在Linux中创建静态库.a和动态库.so
- 如何解决多线程程序中的死锁问题
- 猜测文本/字符串编码的方式
- 如何使用系统默认浏览器打开QTextB…
- 使用c++实现时间轮算法(Timing-Wh…
- 简单判断图像格式的办法(BMP/JPEG…
- Interface(Java关键字)天然是接…
- 定时器的设计与时间轮算法
- 示范如何在命令行程序中处理用户中…
- 示范如何让QT控件捕捉键盘事件实现…
- 用一个实例来对比函数指针(纯C写…
- C++的Stack实现
- 纯C的Stack实现
- 分析软件需求说明书利弊(附某人的…
- 更改QTreeView, QListView在window…
- QTableWidget美化细节
- Android 中 Fragment的使用大全
- 单元测试:实践者的总结和反思
- VS2008性能测试profiling系统重启…
- c10k测试:使用asio实现多线程回显…