js 基本运算小数精度解决问题
2018-02-26 16:32
369 查看
乘法例子:1
加法:1
//乘法函数,用来得到精确的乘法结果2
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。3
//调用:accMul(arg1,arg2)4
//返回值:arg1乘以arg2的精确结果5
functionaccMul(arg1,arg2)6
{7
varm=0,s1=arg1.toString(),s2=arg2.toString();8
try{m+=s1.split(".")[1].length}catch(e){}9
try{m+=s2.split(".")[1].length}catch(e){}10
returnNumber(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)11
}1213
//给Number类型增加一个mul方法,调用起来更加方便。14
Number.prototype.mul=function(arg){15
returnaccMul(arg,this);16
}除法:1
//除法函数,用来得到精确的除法结果2
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。3
//调用:accDiv(arg1,arg2)4
//返回值:arg1除以arg2的精确结果5
functionaccDiv(arg1,arg2){6
vart1=0,t2=0,r1,r2;7
try{t1=arg1.toString().split(".")[1].length}catch(e){}8
try{t2=arg2.toString().split(".")[1].length}catch(e){}9
with(Math){10
r1=Number(arg1.toString().replace(".",""))11
r2=Number(arg2.toString().replace(".",""))12
return(r1/r2)*pow(10,t2-t1);13
}14
}1516
//给Number类型增加一个div方法,调用起来更加方便。17
Number.prototype.div=function(arg){18
returnaccDiv(this,arg);19
}
加法:1
//加法函数,用来得到精确的加法结果2
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。3
//调用:accAdd(arg1,arg2)4
//返回值:arg1加上arg2的精确结果5
functionaccAdd(arg1,arg2){6
varr1,r2,m;7
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}8
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}9
m=Math.pow(10,Math.max(r1,r2))10
return(arg1*m+arg2*m)/m11
}1213
//给Number类型增加一个add方法,调用起来更加方便。14
Number.prototype.add=function(arg){15
returnaccAdd(arg,this);16
}
相关文章推荐
- 解决js中小数相加损失精度的问题
- JS小数运算精度问题
- JS小数运算出现多为小数问题的解决方法
- js计算出现多位小数-Javascript 浮点运算问题分析与解决
- js小数运算精度问题,js浮点数运算时出现精度问题
- JS 浮点运算精度解决办法 (把小数转换为整数进行计算【但是不能超过js的整数上限】)
- JS浮点类型运算精度丢失问题解决办法
- JS浮点类型运算精度丢失问题解决办法
- js中保证小数运算精度的解决
- js中小数运算精度丢失问题
- JS小数运算出现多为小数问题的解决方法
- js精确小数乘法(解决精度问题)
- Javascript 浮点运算精度问题分析与解决
- js 小数运算问题
- js加减乘除丢失精度问题解决方法
- 解决double类型运算时精度丢失问题
- JS中toFixed()方法引起的精度丢失的问题解决
- Java中的数字基本运算和精度问题
- js,java小数计算精度问题
- Javascript 浮点运算精度问题分析与解决