浮点数的大小比较问题
2014-08-12 21:20
260 查看
众所周知,计算机表示小数时(float和double),都存在精度上的误差。那么在进行涉及小数的计算时,如果直接拿浮点数计算就会出现精度或是舍入上的奇怪问题。
考虑比较两个小数a和b的大小:
1.如果不需要极度精确的情况,我们可以写作
if(a - b > -0.0000001) &&(a - b < 0.0000001){
//则认为两个数相等
}
2.当然,若需要绝对相等,可以考虑使用BigDecimal进行比较:
BigDecimal a = new BigDecimal(double );
BigDecimal b = newBigDecimal(double );
int compare = a.compareTo(b);
将此 BigDecimal 与指定的 BigDecimal 比较。根据此方法,值相等但具有不同标度的两个
BigDecimal 对象(如,2.0 和 2.00)被认为是相等的。相对六个 boolean 比较运算符 (<, ==, >, >=, !=, <=) 中每一个运算符的各个方法,优先提供此方法。建议使用以下语句执行上述比较:(x.compareTo(y) <op>0),其中 <op> 是六个比较运算符之一。
指定者:接口
参数:
考虑比较两个小数a和b的大小:
1.如果不需要极度精确的情况,我们可以写作
if(a - b > -0.0000001) &&(a - b < 0.0000001){
//则认为两个数相等
}
2.当然,若需要绝对相等,可以考虑使用BigDecimal进行比较:
BigDecimal a = new BigDecimal(double );
BigDecimal b = newBigDecimal(double );
int compare = a.compareTo(b);
compareTo
public int compareTo(BigDecimal val)
将此 BigDecimal 与指定的 BigDecimal 比较。根据此方法,值相等但具有不同标度的两个
BigDecimal 对象(如,2.0 和 2.00)被认为是相等的。相对六个 boolean 比较运算符 (<, ==, >, >=, !=, <=) 中每一个运算符的各个方法,优先提供此方法。建议使用以下语句执行上述比较:(x.compareTo(y) <op>0),其中 <op> 是六个比较运算符之一。
指定者:接口
Comparable<BigDecimal>中的
compareTo
参数:
val- 将此 BigDecimal 与之比较的 BigDecimal。 返回:当此 BigDecimal 在数字上小于、等于或大于 val 时,返回 -1、0 或 1。