您的位置:首页 > Web前端 > JavaScript

js 处理小数的运算

2018-02-08 15:08 267 查看
首先要说明的是,不能正确处理小数的运算并不是 JavaScript

语言本身的设计错误,其它高级编程语言,如C,Java等,也是不能正确处理小数运算的。

//我们用计算器计算 21*0.9 = 18.9;
//在控制台计算  21*0.9 = 18.900000000000002;
/*我们都知道,用高级编程语言编写的程序需要经过解释、编译等操作转变成 CPU(Central Processing Unit)
可以识别的机器语言才能运行,而对 CPU 来说,它不识别数的十进制、八进制和十六进制等,我们在程序中声明
的这些进制数都会被转成二进制数进行运算。
*/
console.log(21*0.9);   //18.900000000000002
//例如保留三位小数向上取整
var item = Math.ceil(21*0.9*1000)/1000;
console.log(item);  // 18.901
//解决方法:
var item1 = Math.ceil((21*10)*(0.9*10)/100*1000)/1000;
console.log(item1);  // 18.9


说明:

计算内部使用二进制来计算,如果不想出现 21*0.9 = 18.900000000000002 这样的情况,我们需要在前端进行转换。

所以,解决方法就是进行转换 例如:
(21*10)*(0.9*10)/100 = 18.9


这是我在控制台打印出来的:

内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  operation js xiaoshu