JavaScript中的浮点数溢出情况处理。
2012-12-09 14:23
281 查看
说明:
今天在做数据计算的时候出现这样的情况,11.1+13.2 在JavaScript中出现的结果,是24.3000000000000004,一直很很是纳闷了,Google了下,原来是二进制的浮点数不能正确的处理十进制的小数,导致了出现浮点数溢出了。
使用通过先乘以10或者100 ,去掉的小数点,转成整数,然后再做相加、在做一个除以100或者10,这样就Ok了。
今天在做数据计算的时候出现这样的情况,11.1+13.2 在JavaScript中出现的结果,是24.3000000000000004,一直很很是纳闷了,Google了下,原来是二进制的浮点数不能正确的处理十进制的小数,导致了出现浮点数溢出了。
使用通过先乘以10或者100 ,去掉的小数点,转成整数,然后再做相加、在做一个除以100或者10,这样就Ok了。
相关文章推荐
- Javascript注意事项一【防止浮点数溢出】
- 在后端是PHP程序的情况下,保持前端Javascript和PHP之间传值的统一编码可以使用以下函数进行处理:
- 我也写了一个牛顿迭代法,貌似不需要特殊处理溢出的情况 class Solution { public...
- 处理数组时,很多情况要注意判断数组的长度是否大于0,否则很容易因索引溢出而导致程序崩溃
- JavaScript 处理浮点数源码
- 浮点数计算溢出处理问题、浮点数1.#INF和1.#IND 问题
- javascript中可处理的浮点数的最高精度(和小数的一些小特性)
- javascript中可处理的浮点数的最高精度(和小数的一些小特性)
- 【Web API系列教程】3.6 — 实战:处理数据(创建JavaScript客户端)
- SVM-6-规则化和不可分情况处理
- html标签内容为纯英文字符或数字时的溢出处理
- JavaScript导出Word后对Word分页的处理
- JavaScript高级程序设计 阅读笔记(二十) js错误处理
- 在什么情况需要对特征使用归一化处理?--从机器学习项目中开始学习
- 编写0号中断处理程序,使得在出发溢出发生时,在屏幕中间显示字符串,然后返回到DOS
- javascript 处理鼠标右键事件
- javascript 日期Date对象处理函数
- df和du显示的磁盘空间使用情况不一致的原因及处理
- 如何处理高并发情况下的DB插入
- QTP几种特殊情况处理