双精度浮点数的加法计算误差及其避免的初步方法
2004-10-09 11:22
555 查看
双精度浮点数的加法计算误差及其避免的初步方法
我一开始是在mysql的sum函数中发现计算误差,经过分析,认为可能与双精度浮点数有关
#include <stdio.h>
main()
{
char str[256];
double x=9999999999.00;
double s=0.0;
double x1=99999999.99;
double s1=0.0;
int i;
for( i = 0; i < 8192; i++ ) {
s += x;
}
printf( "%18.2lf", s );
for( i=0;i<8192;i++)
{
s1 += x1;
}
printf("%18.2lf",s1);
s1 = x1 * 8192.00;
printf("%18.2lf/n",s1);
}
分别在Windows 和 unix 下边编译运行,得到的结果是相同的
81919999991808.00 819199999918.02 819199999918.08
这说明双精度浮点数的加法在小数点后边计算存在较大误差,而乘法就好一些
我初步想到了2种解决方法,不成熟,我也没有试过其他语言,请各位指正
解决方法一:
避免用double就没问题
比如在vb里面这么写,用Currency类型
Private Sub Command1_Click()
Dim i As Integer
Dim s As Double
Dim x As Double
Dim sc As Currency
Dim xc As Currency
x = 99999999.99
s = 0
For i = 1 To 8192
s = s + x
Next i
xc = 99999999.99
sc = 0
For i = 1 To 8192
sc = sc + xc
Next i
MsgBox s & " " & sc
End Sub
结果:819199999918.017 819199999918.08
解决方法二:
加的时候不用小数点,加好以后再点
比如:
99999999.99连加的时候把小数点右移2位
用9999999999做连加,得出结果后再把小数点左移2位
我一开始是在mysql的sum函数中发现计算误差,经过分析,认为可能与双精度浮点数有关
#include <stdio.h>
main()
{
char str[256];
double x=9999999999.00;
double s=0.0;
double x1=99999999.99;
double s1=0.0;
int i;
for( i = 0; i < 8192; i++ ) {
s += x;
}
printf( "%18.2lf", s );
for( i=0;i<8192;i++)
{
s1 += x1;
}
printf("%18.2lf",s1);
s1 = x1 * 8192.00;
printf("%18.2lf/n",s1);
}
分别在Windows 和 unix 下边编译运行,得到的结果是相同的
81919999991808.00 819199999918.02 819199999918.08
这说明双精度浮点数的加法在小数点后边计算存在较大误差,而乘法就好一些
我初步想到了2种解决方法,不成熟,我也没有试过其他语言,请各位指正
解决方法一:
避免用double就没问题
比如在vb里面这么写,用Currency类型
Private Sub Command1_Click()
Dim i As Integer
Dim s As Double
Dim x As Double
Dim sc As Currency
Dim xc As Currency
x = 99999999.99
s = 0
For i = 1 To 8192
s = s + x
Next i
xc = 99999999.99
sc = 0
For i = 1 To 8192
sc = sc + xc
Next i
MsgBox s & " " & sc
End Sub
结果:819199999918.017 819199999918.08
解决方法二:
加的时候不用小数点,加好以后再点
比如:
99999999.99连加的时候把小数点右移2位
用9999999999做连加,得出结果后再把小数点左移2位
相关文章推荐
- javascript避免数字计算精度误差的方法
- 避免数字计算精度误差的方法详解
- javascript避免数字计算精度误差的方法之一
- javascript避免数字计算精度误差的方法详解
- javascript避免数字计算精度误差的方法之一
- javascript避免数字计算精度误差的方法详解
- javascript避免数字计算精度误差的方法详解
- javascript避免数字计算精度误差的方法
- javascript避免数字计算精度误差的方法详解
- SPOT5数据说明及其NDVI的计算方法
- 实现js浮点数加、减、乘、除的精确计算(网上很多文章里的方法是不能解决所有js浮点数计算误差的)
- 中序表达式转成前序表达式和后序表达式及其计算方法
- 词袋向量及其计算方法
- 相关任务时间的六个基本参数及其计算方法
- 常用的预测误差计算方法
- 三种Fibonacci数列第n项计算方法及其优劣分析
- POJ 3347 Kadj Squares 复杂的线段相交问题。这个题目是计算几何的扩大数据运算的典型应用 有时候扩大数据范围避免浮点误差,这个题就是应用
- Servelt学习:SQL注入漏洞及其避免方法
- 动态规划:0-1背包问题(使用迭代方法,避免重复计算)
- 避免超时方法一 :不要重复调用函数计算同一个数