计算机计算的时间精度
2012-04-12 16:46
169 查看
在儒略日转GPS时间的时候，要把儒略日的天、一天中的秒分开，不然会导致精度损失。
秒转成日的时候，会损失精度，这样计算出来的GPS秒精度会不够。
double a=10222.000347222202;
double WN=1460.0;
double b=a-WN*7.0;
b计算出来的数字为：2.0003472222015262
手算的话应该是： 2.000347222202;
这是为什么，精度损失了。高精度的计算库都是基于字符串进行计算的。《数值计算与数据处理编程及实践》
秒转成日的时候，会损失精度，这样计算出来的GPS秒精度会不够。
double a=10222.000347222202;
double WN=1460.0;
double b=a-WN*7.0;
b计算出来的数字为：2.0003472222015262
手算的话应该是： 2.000347222202;
这是为什么，精度损失了。高精度的计算库都是基于字符串进行计算的。《数值计算与数据处理编程及实践》
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 计算机系统的时间的计算机制
- 计算机时间、unix时间、linux时间、java时间为何以1970年1月1日为原点？从1970年1月1日开始计算？
- 计算机时间、unix时间、linux时间、java时间为何以1970年1月1日为原点？从1970年1月1日开始计算？
- C++精确计算代码执行时间精度微秒级
- 精确计算程序运行时间 秒杀毫秒级 精度远超毫秒
- 为什么计算机很多语言里的时间都是从1970年1月1日午夜开始计算？
- 计算机的I/O时间是如何计算的
- 计算机时间、unix时间、linux时间、java时间为何以1970年1月1日为原点？从1970年1月1日开始计算？
- 计算机时间、unix时间、linux时间、java时间为何以1970年1月1日为原点？从1970年1月1日开始计算？
- C++精确计算代码执行时间精度微秒级
- 计算机时间、unix时间、linux时间、java时间为何以1970年1月1日为原点？从1970年1月1日开始计算？
- 计算机对加减乘除的计算时间的对比
- VBscript(ASP)计算程序运行时间，精度到毫秒
- 计算机时间、unix时间、linux时间、java时间为何以1970年1月1日为原点？从1970年1月1日开始计算？
- 华为OJ:计算两个自然时间相加
- (转)计算时间复杂度
- 几个时间计算
- js计算时间之差
- 得到局域网内某台计算机的当前时间程序