BigDecimal.dive(one,scale,BigDecimal.ROUND_HALF_UP)不能四舍五入!!
2016-06-06 11:43
489 查看
本篇文章主要介绍了"BigDecimal.dive(one,scale,BigDecimal.ROUND_HALF_UP)不能四舍五入!! 50CSDN]",
主要涉及到BigDecimal.dive(one,scale,BigDecimal.ROUND_HALF_UP)不能四舍五入!! 50CSDN]方面的内容,对于BigDecimal.dive(one,scale,BigDecimal.ROUND_HALF_UP)不能四舍五入!!
50CSDN]感兴趣的同学可以参考一下。
import java.math.BigDecimal;
public class halfup {
public static void main(String[] args) {
BigDecimal data0 = new BigDecimal(3.05);//err
printFormatData(data0, 1);
BigDecimal data1 = new BigDecimal(3.15);//err
printFormatData(data1, 1);
BigDecimal data2 = new BigDecimal(3.105);//err
printFormatData(data2, 2);
BigDecimal data3 = new BigDecimal(3.115);//right
printFormatData(data3, 2);
BigDecimal data4 = new BigDecimal(3.1105);//right
printFormatData(data4, 3);
BigDecimal data5 = new BigDecimal(3.11705);//err
printFormatData(data5, 4);
}
public static void printFormatData(BigDecimal data, int scale) { data = data.divide(new BigDecimal(1), scale, BigDecimal.ROUND_HALF_UP);
System.out.println(data.toString());
} } 结果: 3.0 3.1 3.10 3.12 3.111 3.1170
总结被舍部分的前一位为0答案就错. 当保留1位小数时,小数点后1位必须>=2才能算出正确结果.
而且 bigdecimal.setScale(scale, BigDecimal.ROUND_HALF_UP);也是错的
以前没发现,今天把lz的source个跑了一遍发现果然有这个现象 ,不解
BigDecimal data0 = new BigDecimal(3.05); --> BigDecimal data0 = new BigDecimal("3.05"); 自己想一下为什么不用double计算,而使用BigDecimal的原因 如果想不明白,打印一下data0以及data0.scale()
package org.luyang.lang;
import java.math.BigDecimal;
public class Summary {
public static void main(String[] args) {
BigDecimal data0 = new BigDecimal("3.05");//err
printFormatData(data0, 1);
BigDecimal data1 = new BigDecimal("3.15");//err
printFormatData(data1, 1);
BigDecimal data2 = new BigDecimal("3.105");//err
printFormatData(data2, 2);
BigDecimal data3 = new BigDecimal("3.115");//right
printFormatData(data3, 2);
BigDecimal data4 = new BigDecimal("3.1105");//right
printFormatData(data4, 3);
BigDecimal data5 = new BigDecimal("3.11705");//err
printFormatData(data5, 4); }
public static void printFormatData(BigDecimal data, int scale) {
data = data.divide(new BigDecimal(1), scale, 4);
System.out.println(data.toString()); } } =========================== 结果 3.1 3.2 3.11 3.12 3.111 3.1171 全部正确。 shine333(enihs) ( ) 信誉:125 Blog 强啊。 以前只知道 ibm的jdk 只支持 BigDecimal data0 = new BigDecimal("3.05"); 而不支持 BigDecimal data0 = new BigDecimal(3.05);
原来这两种写法竟然有这么大的区别。 佩服!!!!!!!!!!!!!!!!
主要涉及到BigDecimal.dive(one,scale,BigDecimal.ROUND_HALF_UP)不能四舍五入!! 50CSDN]方面的内容,对于BigDecimal.dive(one,scale,BigDecimal.ROUND_HALF_UP)不能四舍五入!!
50CSDN]感兴趣的同学可以参考一下。
import java.math.BigDecimal;
public class halfup {
public static void main(String[] args) {
BigDecimal data0 = new BigDecimal(3.05);//err
printFormatData(data0, 1);
BigDecimal data1 = new BigDecimal(3.15);//err
printFormatData(data1, 1);
BigDecimal data2 = new BigDecimal(3.105);//err
printFormatData(data2, 2);
BigDecimal data3 = new BigDecimal(3.115);//right
printFormatData(data3, 2);
BigDecimal data4 = new BigDecimal(3.1105);//right
printFormatData(data4, 3);
BigDecimal data5 = new BigDecimal(3.11705);//err
printFormatData(data5, 4);
}
public static void printFormatData(BigDecimal data, int scale) { data = data.divide(new BigDecimal(1), scale, BigDecimal.ROUND_HALF_UP);
System.out.println(data.toString());
} } 结果: 3.0 3.1 3.10 3.12 3.111 3.1170
总结被舍部分的前一位为0答案就错. 当保留1位小数时,小数点后1位必须>=2才能算出正确结果.
而且 bigdecimal.setScale(scale, BigDecimal.ROUND_HALF_UP);也是错的
以前没发现,今天把lz的source个跑了一遍发现果然有这个现象 ,不解
BigDecimal data0 = new BigDecimal(3.05); --> BigDecimal data0 = new BigDecimal("3.05"); 自己想一下为什么不用double计算,而使用BigDecimal的原因 如果想不明白,打印一下data0以及data0.scale()
package org.luyang.lang;
import java.math.BigDecimal;
public class Summary {
public static void main(String[] args) {
BigDecimal data0 = new BigDecimal("3.05");//err
printFormatData(data0, 1);
BigDecimal data1 = new BigDecimal("3.15");//err
printFormatData(data1, 1);
BigDecimal data2 = new BigDecimal("3.105");//err
printFormatData(data2, 2);
BigDecimal data3 = new BigDecimal("3.115");//right
printFormatData(data3, 2);
BigDecimal data4 = new BigDecimal("3.1105");//right
printFormatData(data4, 3);
BigDecimal data5 = new BigDecimal("3.11705");//err
printFormatData(data5, 4); }
public static void printFormatData(BigDecimal data, int scale) {
data = data.divide(new BigDecimal(1), scale, 4);
System.out.println(data.toString()); } } =========================== 结果 3.1 3.2 3.11 3.12 3.111 3.1171 全部正确。 shine333(enihs) ( ) 信誉:125 Blog 强啊。 以前只知道 ibm的jdk 只支持 BigDecimal data0 = new BigDecimal("3.05"); 而不支持 BigDecimal data0 = new BigDecimal(3.05);
原来这两种写法竟然有这么大的区别。 佩服!!!!!!!!!!!!!!!!
相关文章推荐
- apache https ssl配置详细步骤讲解
- 转:C++ 性能测试支持
- quartz的定时任务使用的补充。
- 关于销售订单的状态
- Qemu下安装Sun Solairs8简明教程 转
- 线段余弦角+凸包算法
- ThinkPHP中简单的CURD操作
- 详解C中volatile关键字(转)
- Android性能优化总结
- C++Primer Chapter3课后习题
- javascript中this执行上下文的改变
- C 程序的存储空间布局
- NIO 入门
- Hibernate学习及问题记录(1)——纠结的第一战
- 巧用screenrecord,复现bug好帮手
- 微信公众号开发小计
- mac端的优秀抓包工具——Charles使用
- 从Heron看实时计算系统差异对比
- fflush(stdin)与fflush(stdout)
- spring(5)构建 spring web 应用程序