您的位置:首页 > 其它

关于double类型的数据算法失真处理

2016-12-22 23:07 459 查看
double  b1=0.1;

double b2 =0.2;

System.out.println(b1+b2);

代码如上,输出结果0.30000000000000004,有没有很奇怪,居然不是0.3

原因是:

 double属于floating binary point types,也就是说都double型的数值在相加减的时候,会将数值转换成二进制的数值如10001.10010110011这种表示发再做相加减,但是在转换成二进制代码表示的时候,存储小数部分的位数会有不够的现象,即无限循环小数,这就是造成微差距的主要原因。

怎么办,后面的尾巴肯定不能要,数据明显失真了

 用Decimal就不会出现上面的问题了,可以准确的计算小数值,知识Decimal的范围比double小,一般情况下也够用了

 Decimal类型的有效位数达到28位,而double类型的16位,所以Decimal类型比Double类型能表示更精确的浮点数

BigDecimal bd1=new BigDecimal(String.valueOf(b1));

BigDecimal  bd2=new BigDecimal(String.valueOf(b2));

System.out.println(bd1.add(bd2));

输出0.3;

ok!!!!!!!!

好记性不如烂笔头!!!!!!!!

(其他的)
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: