js小数计算小数点后显示多位小数
2011-06-15 22:46
411 查看
首先写一个demo 重现问题,我使用的是一个js在线测试环境[打开]
改写displaynum()函数
点击Show按钮 结果显示32.769999999996 出现了N多小数.
也并不是所有数字都会出现这种现象, 除了 22.99 2.777 , 好像这几个数字也没什么特殊.
查了一些资料, 一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚, 有时间再去深入研究一下。
现在有两种解决方法, 第一种就是利用JS .toFixed(n) 方法, 直接获取n位小数, 个人觉得这种方法在数据精度上会有一些问题. 如果数据精度要求不高的话 可以使用. 第二种方法就是自己写js 运算方法.
以下是自定义加法函数, 使用此方法进行相加会避免上面问题。
当然简单一点也可以写成 alert((num * 3 + 10 * 3) /3); 这样也不会出现n多小数。
alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的, 或许这就是出现上述问题的原因,还有待我去深入研究.
园子里的高手有知道的, 还请赐教 O(∩_∩)O~~!
改写displaynum()函数
function displaynum() { var num = 22.77; alert(num + 10); }
点击Show按钮 结果显示32.769999999996 出现了N多小数.
也并不是所有数字都会出现这种现象, 除了 22.99 2.777 , 好像这几个数字也没什么特殊.
查了一些资料, 一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚, 有时间再去深入研究一下。
现在有两种解决方法, 第一种就是利用JS .toFixed(n) 方法, 直接获取n位小数, 个人觉得这种方法在数据精度上会有一些问题. 如果数据精度要求不高的话 可以使用. 第二种方法就是自己写js 运算方法.
以下是自定义加法函数, 使用此方法进行相加会避免上面问题。
function addNum(num1,num2){ var sq1,sq2,m; try{sq1=num1.toString().split(".")[1].length;} catch(e){sq1=0;} try{sq2=num2.toString().split(".")[1].length;} catch(e){sq2=0;} m=Math.pow(10,Math.max(sq1,sq2)); return ( num1 * m + num2 * m ) / m; }
当然简单一点也可以写成 alert((num * 3 + 10 * 3) /3); 这样也不会出现n多小数。
alert((num * 3 + 10 * 3) /3); 与 alert(num + 10); 这两种写法计算机在底层转换成二进制运算是有区别的, 或许这就是出现上述问题的原因,还有待我去深入研究.
园子里的高手有知道的, 还请赐教 O(∩_∩)O~~!
相关文章推荐
- js小数计算小数点后显示多位小数(转)
- js小数计算小数点后显示多位小数
- js小数计算小数点后显示多位小数--问题
- js小数计算小数点后显示多位小数
- js小数计算小数点后显示多位小数(转)
- js小数计算小数点后显示多位小数的实现方法
- js小数计算小数点后显示多位小数
- js-计算保留小数点一两位并避免出现无限小数的bug
- C#练习记录(请计算出一个整型数组的平均值。{ 1, 3, 5, 7, 90, 2, 4, 6, 8, 10 }。要求:计算结果如果有小数,则显示小数点后两位(四舍五入)。Math.Round())
- js计算出现多位小数-Javascript 浮点运算问题分析与解决
- JS正则--非负整数或小数[小数最多精确到小数点后两位]
- 设计程序,单击【随机数】按钮,使用Math对象的random函数产生一个0-100之间(含0-100)的随机整数,并在对话框中显示,如下图。单击【计算】按钮,计算该随机数的平方、平方根和自然对数,保留两位小数,并在对话框中显示,如下图。
- JS+jquery 计算服务器控件textbox的值并显示在lable上
- js小数运算出现多位小数如何解决
- Js 对小数的处理(科学计数法 , 显示精度)
- js中控制小数点的显示位数的技术整理
- 解决js小数求和出现多位小数问题
- JS 保留小数点后面2位小数
- js 保留两位小数 多位小数
- 一些js小方法:格式化xml, 计算2个日期间隔的天数, 保留小数点后两位等