解决js进行四则运算时出现的小数尾差问题
2014-04-17 17:25
537 查看
最近项目中用到js对数据进行运算,运算10.37-1.1-1.1=8.169999999999,让我很是郁闷,谷歌了一下发现这是一个js本身对浮点运算的bug,不知道为什么一直没有修复。。。
一开始我如果仅对加法进行简单的处理,即所有的数都乘以1000或10000得到整数在进行运算,但是在减法等中还是会有问题。要彻底解决这个bug,只有重新自己写加减乘除的方法,如下:
乘法:
function accDiv(arg1, arg2) {
var t1 = 0, t2 = 0, r1, r2;
try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
with (Math) {
r1 = Number(arg1.toString().replace(".", ""))
r2 = Number(arg2.toString().replace(".", ""))
return (r1 / r2) * pow(10, t2 - t1);
}
}
除法:
function accMul(arg1, arg2) {
var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
try { m += s1.split(".")[1].length } catch (e) { }
try { m += s2.split(".")[1].length } catch (e) { }
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}
加法:
function accAdd(arg1, arg2) {
var r1, r2, m, c;
try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
c = Math.abs(r1 - r2);
m = Math.pow(10, Math.max(r1, r2))
if (c > 0) {
var cm = Math.pow(10, c);
if (r1 > r2) {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", "")) * cm;
}
else {
arg1 = Number(arg1.toString().replace(".", "")) * cm;
arg2 = Number(arg2.toString().replace(".", ""));
}
}
else {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", ""));
}
return (arg1 + arg2) / m
}
减法:
function accSub(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
特别的是,你可以给Number类型增加四个方法,让调用更加方便。
比如加法:
给Number赋个add方法
Number.prototype.add = function(arg) {
return accAdd(arg, this);
}
计算3.4+2.1只需调用(3.4)add(2.1)即可。
一开始我如果仅对加法进行简单的处理,即所有的数都乘以1000或10000得到整数在进行运算,但是在减法等中还是会有问题。要彻底解决这个bug,只有重新自己写加减乘除的方法,如下:
乘法:
function accDiv(arg1, arg2) {
var t1 = 0, t2 = 0, r1, r2;
try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
with (Math) {
r1 = Number(arg1.toString().replace(".", ""))
r2 = Number(arg2.toString().replace(".", ""))
return (r1 / r2) * pow(10, t2 - t1);
}
}
除法:
function accMul(arg1, arg2) {
var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
try { m += s1.split(".")[1].length } catch (e) { }
try { m += s2.split(".")[1].length } catch (e) { }
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}
加法:
function accAdd(arg1, arg2) {
var r1, r2, m, c;
try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
c = Math.abs(r1 - r2);
m = Math.pow(10, Math.max(r1, r2))
if (c > 0) {
var cm = Math.pow(10, c);
if (r1 > r2) {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", "")) * cm;
}
else {
arg1 = Number(arg1.toString().replace(".", "")) * cm;
arg2 = Number(arg2.toString().replace(".", ""));
}
}
else {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", ""));
}
return (arg1 + arg2) / m
}
减法:
function accSub(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
特别的是,你可以给Number类型增加四个方法,让调用更加方便。
比如加法:
给Number赋个add方法
Number.prototype.add = function(arg) {
return accAdd(arg, this);
}
计算3.4+2.1只需调用(3.4)add(2.1)即可。
相关文章推荐
- 解决js小数求和出现多位小数问题
- js计算出现多位小数-Javascript 浮点运算问题分析与解决
- 使用ajaxfileupload.js进行文件上传,出现的问题以及解决办法
- JS小数运算出现多为小数问题的解决方法
- JS小数运算出现多为小数问题的解决方法
- 解决js图片加载时出现404的问题
- IE 下js里面new Date("2017-07-11 08:00:00") 出现NAN的问题以及解决方法
- js window.open将参数传递到struts中出现的乱码问题解决
- 在使用SSIS设计脚本时候,出现的在PostExecute之外不能锁定变量集合进行读写访问的问题的解决
- 解决JS传到后台的中文字符在非中文环境下出现乱码“?”问题
- JS小数运算出现多位小数的问题
- cmd窗口进行adb logcat时出现中文乱码问题的解决办法
- js中带小数的两数据的操作问题,出现很多小数位
- js小数运算出现多位小数如何解决
- 使用pdf.js进行在线预览PDF出现问题
- 解决js图片加载时出现404的问题
- JS 浮点运算精度解决办法 (把小数转换为整数进行计算【但是不能超过js的整数上限】)
- 解决Eclipse进行OSGI调试时出现Could not find bundle: org.eclipse.equinox.console的问题
- AS3中通过单击不同按钮进行交换元件出现问题解决办法
- 解决在mybatis中使用CTE进行oracle查询数据类型为long的字段出现流关闭问题