关于浮点数的运算误差问题
2014-05-23 19:15
260 查看
项目程序中遇到的,关于浮点数的运算误差问题
#include "stdio.h"
#include "stdlib.h"
void test(double fRx, double space, unsigned int n)
{
double fRx_max = fRx + space * (double)n;
double delta = 0;
for(; fRx<=fRx_max; fRx+=space)
{
printf("%lf\n",fRx);
}
}
int main(void)
{
test(935.0, 0.2, 124);
}
上述程序,当程序进入test()函数时,fRx确实等于935.0,但是计算得到的fRx_max却不是958.8,而是958.7999...995(省略了很多9,具体多少个我就没细数了),难道浮点数就是存在精确度问题?
继续说程序执行过程,当程序第一次执行到“printf("%lf\n",fRx);”这地方时,我查看fRx = 935.000...00,执行“printf("%lf\n",fRx);”是输出935.000000;
当程序第二次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.2000...005,执行“printf("%lf\n",fRx);”是输出935.200000;
当程序第三次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.4000...009,执行“printf("%lf\n",fRx);”是输出935.400000;
………………
随着fRx的不断增加,当fRx的数值达到输出精度的范围时,便就有了误差了,比如我本来是想要让fRx = 959.2的,可是经过这样的累加,最终fRx可能等于959.2001。
(这里只是举例,实际并一定是当fRx应当为959.2时,实际却为959.2001)
对于一般情况下,这个误差是在可以接受范围内的吧,但是我这次的项目是要配置RF芯片的fVCO,这款RF的VCO本来就有偏差了,在加上fRx值的这样一偏,最后就VCO就偏的更多了。
不过问题还是很好解决的,将上述程序的fRx不断自增改为直接为fRx赋值即可,如下所示:
void test(double fRx_, double space, unsigned int n)
{
double fRx;
int i;
for(i=0; i<=n; i++)
{
fRx = fRx_ + i*space;
printf("%lf\n",fRx);
}
}
对了,我项目程序中用到的数据类型是float型,不过问题本质同double型,只是float的误差比double更大。
#include "stdio.h"
#include "stdlib.h"
void test(double fRx, double space, unsigned int n)
{
double fRx_max = fRx + space * (double)n;
double delta = 0;
for(; fRx<=fRx_max; fRx+=space)
{
printf("%lf\n",fRx);
}
}
int main(void)
{
test(935.0, 0.2, 124);
}
上述程序,当程序进入test()函数时,fRx确实等于935.0,但是计算得到的fRx_max却不是958.8,而是958.7999...995(省略了很多9,具体多少个我就没细数了),难道浮点数就是存在精确度问题?
继续说程序执行过程,当程序第一次执行到“printf("%lf\n",fRx);”这地方时,我查看fRx = 935.000...00,执行“printf("%lf\n",fRx);”是输出935.000000;
当程序第二次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.2000...005,执行“printf("%lf\n",fRx);”是输出935.200000;
当程序第三次执行到“printf("%lf\n",fRx);”时,我查看fRx = 935.4000...009,执行“printf("%lf\n",fRx);”是输出935.400000;
………………
随着fRx的不断增加,当fRx的数值达到输出精度的范围时,便就有了误差了,比如我本来是想要让fRx = 959.2的,可是经过这样的累加,最终fRx可能等于959.2001。
(这里只是举例,实际并一定是当fRx应当为959.2时,实际却为959.2001)
对于一般情况下,这个误差是在可以接受范围内的吧,但是我这次的项目是要配置RF芯片的fVCO,这款RF的VCO本来就有偏差了,在加上fRx值的这样一偏,最后就VCO就偏的更多了。
不过问题还是很好解决的,将上述程序的fRx不断自增改为直接为fRx赋值即可,如下所示:
void test(double fRx_, double space, unsigned int n)
{
double fRx;
int i;
for(i=0; i<=n; i++)
{
fRx = fRx_ + i*space;
printf("%lf\n",fRx);
}
}
对了,我项目程序中用到的数据类型是float型,不过问题本质同double型,只是float的误差比double更大。
相关文章推荐
- 关于浮点数不能进行位运算的问题
- 关于矩阵运算和文本处理中的分类问题 来自Google 研究员,吴军
- C#中,关于除法“/”运算得一点问题。
- 关于c语言自加运算的问题(a++)
- 【转】关于浮点数的精度与取值范围的问题
- 关于浮点数的问题
- <2011 11 10> 编程中数据处理的问题(三)浮点数运算与精度误差
- 关于浮点数的问题,我再做一个字体设置的时候总有问题,现在看了这个文章,受到了启发
- 关于浮点数的尾数问题-[网摘收录]
- 关于java中Double类型的运算精度问题
- 关于不能够精确的对浮点数进行运算的问题
- 关于浮点数的精度与取值范围的问题
- 关于误差,想到一个 整数规划问题
- 关于当前公历计时误差的问题
- 关于byte类型的运算问题(适合新手阅读)
- 一道有趣的问题——关于自加运算的
- 关于表达式 运算溢出等问题
- 关于exec中不能有变量运算的问题
- 关于verilog 中拼接运算的问题
- 关于dsp中程序定点数和浮点数转换问题(Q15格式)