您的位置:首页 > 其它

关于浮点数的运算误差问题

2014-05-23 19:15 260 查看
项目程序中遇到的,关于浮点数的运算误差问题

#include "stdio.h"
#include "stdlib.h"

void test(double fRx, double space, unsigned int n)
{
double fRx_max = fRx + space * (double)n;
double delta = 0;
for(; fRx<=fRx_max; fRx+=space)
{
printf("%lf\n",fRx);
}
}

int main(void)
{
test(935.0, 0.2, 124);
}


上述程序,当程序进入test()函数时,fRx确实等于935.0,但是计算得到的fRx_max却不是958.8,而是958.7999...995(省略了很多9,具体多少个我就没细数了),难道浮点数就是存在精确度问题?
继续说程序执行过程,当程序第一次执行到“printf("%lf\n",fRx);”这地方时,我查看fRx = 935.000...00,执行“printf("%lf\n",fRx);”是输出935.000000;

当程序第二次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.2000...005,执行“printf("%lf\n",fRx);”是输出935.200000;

当程序第三次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.4000...009,执行“printf("%lf\n",fRx);”是输出935.400000;

………………

随着fRx的不断增加,当fRx的数值达到输出精度的范围时,便就有了误差了,比如我本来是想要让fRx = 959.2的,可是经过这样的累加,最终fRx可能等于959.2001。

(这里只是举例,实际并一定是当fRx应当为959.2时,实际却为959.2001)

对于一般情况下,这个误差是在可以接受范围内的吧,但是我这次的项目是要配置RF芯片的fVCO,这款RF的VCO本来就有偏差了,在加上fRx值的这样一偏,最后就VCO就偏的更多了。

不过问题还是很好解决的,将上述程序的fRx不断自增改为直接为fRx赋值即可,如下所示:

void test(double fRx_, double space, unsigned int n)
{
double fRx;
int i;
for(i=0; i<=n; i++)
{
fRx = fRx_ + i*space;
printf("%lf\n",fRx);
}
}


对了,我项目程序中用到的数据类型是float型,不过问题本质同double型,只是float的误差比double更大。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  C 浮点数 运算误差