JS浮点数相乘运算解决误差的方法 转载
2012-07-04 15:37
309 查看
/**
* js乘法:两个浮点数的乘积会出现误差,这个函数返回较为精确的结果。
*/
function Multiply(arg1, arg2) {
var m = 0; //扩大后的两数相乘比初始值相乘扩大的倍数
var s1 = arg1.toString();
var s2 = arg2.toString();
try {
//获取第一个参数的小数部分长度,去掉小数点后,小数部分的长度就是初始值的小数点右移的位数
m += s1.split(".")[1].length;
} catch (e) {
}
try {
////获取第二个参数的小数部分长度,去掉小数点后,小数部分的长度就是初始值的小数点右移的位数
m += s2.split(".")[1].length;
} catch (e) {
}
//返回值:将参数的小数点去掉然后相乘,最后除以Mah.pow(10,m)
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
http://acefunny.blog.51cto.com/970620/618373 参考信息
* js乘法:两个浮点数的乘积会出现误差,这个函数返回较为精确的结果。
*/
function Multiply(arg1, arg2) {
var m = 0; //扩大后的两数相乘比初始值相乘扩大的倍数
var s1 = arg1.toString();
var s2 = arg2.toString();
try {
//获取第一个参数的小数部分长度,去掉小数点后,小数部分的长度就是初始值的小数点右移的位数
m += s1.split(".")[1].length;
} catch (e) {
}
try {
////获取第二个参数的小数部分长度,去掉小数点后,小数部分的长度就是初始值的小数点右移的位数
m += s2.split(".")[1].length;
} catch (e) {
}
//返回值:将参数的小数点去掉然后相乘,最后除以Mah.pow(10,m)
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m);
}
http://acefunny.blog.51cto.com/970620/618373 参考信息
相关文章推荐
- 关于javascript浮点运算的误差解决方法
- 解决JS浮点数(小数)运算出现Bug的方法
- 解决JS浮点数运算出现Bug的方法
- 解决JS浮点数运算出现Bug的方法
- 计算机求解可溢出的两个整型数相乘,算数运算溢出解决方法
- 解决JS浮点数运算出现Bug的方法
- 解决JS浮点数运算出现Bug的方法
- JS浮点数值运算误差解决方法
- 转载 本机运行x程序出现:Can't open display 原因及其解决方法
- [转载]NAT转换后FTP服务器不能访问解决方法一例
- [转载]robo3t在Ubuntu 16.04中报错的解决方法
- Vs2015 win10虚拟机启动问题:无法设置UDP端口 解决方法 合集(转载)
- sqlplus可以链接数据库 plsql就不行的解决方法(转载)
- MyEclipse不能自动编译解决方法(转载)
- CentOS下MySQL忘记root密码解决方法【转载】
- struts中<html:radio>标签默认选中的解决方法《转载》
- 浮点数运算出现偏差以及简单解决方法
- ORA-12514 TNS 监听程序当前无法识别连接描述符中请求服务 的解决方法 此博文包含图片 (2011-01-20 13:50:37)转载▼ 标签: it 分类: 技术 早上同事用PL/SQ
- 安装tinyos中遇到的问题及解决方法_转载