JS长整型精度问题实例分析
2015-01-13 00:00
453 查看
本文实例分析了一个JS长整型精度问题。分享给大家供大家参考。具体分析如下:
问题描述:
后台有一个脚本功能,可编写脚本动态调用Java代码
脚本执行成功,但运行结果与设定不一样,此人没有收到邮件
查看日志 recharge award has been sent. roleId=10214734953631044;
这角色ID数字少1,这....
问题分析:
应该是JS精度问题,
精度
整数(不使用小数点或指数计数法)最多为 15 位。
小数的最大位数是 17,但是浮点运算并不总是 100% 准确:
修改脚本
输出:
1.0214734953631044E16;
这不是JavaScript的错,也不是Java的错,上面转成Long 确实是 roleId=10214734953631044;
可不可以那样呢?
javascript控制台输入的都是字符串,然后调用java里的Integer.valueOf或者Long.valueOf转换呢?
解决方案:
编写一个通用的转化方法 目的把角色ID用字符串传到JavaScriptEngine
申明为字符串
这样JavaScriptEngine拿到的 就是字符串了 其实工作就是Java去处理了
执行成功,先就这样用吧~
希望本文所述对大家的javascript程序设计有所帮助。
问题描述:
后台有一个脚本功能,可编写脚本动态调用Java代码
importClass(com.ztgame.center.controller.api,P360ApiController); var roleId = 10214734953631045; p360ApiController.notice(roleId, 4);
脚本执行成功,但运行结果与设定不一样,此人没有收到邮件
查看日志 recharge award has been sent. roleId=10214734953631044;
这角色ID数字少1,这....
问题分析:
应该是JS精度问题,
精度
整数(不使用小数点或指数计数法)最多为 15 位。
小数的最大位数是 17,但是浮点运算并不总是 100% 准确:
修改脚本
var roleId = 10214734953631045; var output = roleId;
输出:
1.0214734953631044E16;
这不是JavaScript的错,也不是Java的错,上面转成Long 确实是 roleId=10214734953631044;
可不可以那样呢?
javascript控制台输入的都是字符串,然后调用java里的Integer.valueOf或者Long.valueOf转换呢?
解决方案:
编写一个通用的转化方法 目的把角色ID用字符串传到JavaScriptEngine
importClass(com.ztgame.common.util.StringKit); importClass(com.ztgame.center.controller.api,P360ApiController);
申明为字符串
var roleId = "10214734953631045";
这样JavaScriptEngine拿到的 就是字符串了 其实工作就是Java去处理了
p360ApiController.notice(StringKit.parseLong(roleId), 4);
执行成功,先就这样用吧~
希望本文所述对大家的javascript程序设计有所帮助。
相关文章推荐
- JS长整型精度问题实例分析
- JS限制条件补全问题实例分析
- JS中FRAME的操作问题实例分析
- JS长整型精度问题
- js 长整型精度问题-那些年踩过的坑
- JS浮点计算精度问题分析与解决
- JS中FRAME的操作问题实例分析
- 几个ajax js性能优化和内存泄露问题及检测分析工具
- 新程序员职场生存问题实例分析 推荐
- JS中解决数值很小时四舍五入的精度问题
- JS 精度问题
- javascript中的float运算精度实例分析
- js中float类型加减乘除运算精度问题
- 我对一个js问题的分析
- MySQL死锁问题实例分析及解决方法
- Js中parseFloat()方法所产的精度不一致问题
- javascript动画、运动算法详细解释与分析 (二、javascript动画 时间精度问题)
- RegisterStartupScript或RegisterClientScriptBlock注册js脚本而无法执行的问题分析
- NHibernate N+1问题实例分析和优化
- 新程序员职场生存问题实例分析 收藏 此文于2009-12-25被推荐到CSDN首页