javascript两个数值简单运算精度修正函数
2007-09-27 15:00
495 查看
之前发在csdn的javascript版
------------------------------
/*
* 数值简单运算精度修正函数
* m 数值1(number)
* n 数值2(number)
* op 操作符(string)
*/
function fixMath(m, n, op) {
var a = (m+"");
var b = (n+"");
var x = 1;
var y = 1;
var c = 1;
if(a.indexOf(".")>0) {
x = Math.pow(10, a.length - a.indexOf(".") - 1);
}
if(b.indexOf(".")>0) {
y = Math.pow(10, b.length - b.indexOf(".") - 1);
}
switch(op)
{
case '+':
case '-':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
break;
case '*':
c = x*y
m = Math.round(m*x);
n = Math.round(n*y);
break;
case '/':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
c = 1;
break;
}
return eval("("+m+op+n+")/"+c);
}
用法如下:
-----------------------
fixMath(2.3, 1.9, '*')
fixMath(1.98, 1.9, '-')
fixMath(83.50, 74.15, '-')
------------------------------
/*
* 数值简单运算精度修正函数
* m 数值1(number)
* n 数值2(number)
* op 操作符(string)
*/
function fixMath(m, n, op) {
var a = (m+"");
var b = (n+"");
var x = 1;
var y = 1;
var c = 1;
if(a.indexOf(".")>0) {
x = Math.pow(10, a.length - a.indexOf(".") - 1);
}
if(b.indexOf(".")>0) {
y = Math.pow(10, b.length - b.indexOf(".") - 1);
}
switch(op)
{
case '+':
case '-':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
break;
case '*':
c = x*y
m = Math.round(m*x);
n = Math.round(n*y);
break;
case '/':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
c = 1;
break;
}
return eval("("+m+op+n+")/"+c);
}
用法如下:
-----------------------
fixMath(2.3, 1.9, '*')
fixMath(1.98, 1.9, '-')
fixMath(83.50, 74.15, '-')
相关文章推荐
- javascript数值四则运算精度修正函数
- javascript数值四则运算精度修正函数
- javascript 四则运算精度修正函数代码
- javascript中对数值计算控制精度的函数
- 编写一个函数模板,可对两个任意格式的数值(包括字符格式)进行比较,返回两者的最小值,同时保证较高的精度。
- 用javascript的下拉列表菜单中选中所需要运算的数值来实现简单的加法运算
- JavaScript全局函数使用简单说明
- 位运算-加法运算、交换两个数值
- JavaScript 中的所有事物都是对象:字符串、数值、数组、函数...
- 用javaScript写了两个简单网页,留着以后参考(之一)
- Javascript中的函数数学运算
- NumPy常用【数值计算】函数总结(2):ufunc运算、矩阵运算
- JavaScript页面的简单运算
- JavaScript中的函数的参数(简单类型,引用类型)+图解
- Hive常用运算(关系运算)、逻辑运算与数学运算、数值运算、日期函数、条件函数、字符串函数
- javascript浮点数运算精度问题
- matlab控制运算精度函数digits(A)和vpa(B)的使用方法
- 简单的JAVASCRIPT画图函数(兼容ie/ff)
- 连接符,数值运算与函数