js中浮点型运算 bug的解决办法
js中浮点型运算 bug的解决办法
Arthur126 发表于2年前
js中浮点型运算 bug的解决办法
  • 发表于 2年前
  • 阅读 222
  • 收藏 2
  • 点赞 0
  • 评论 0

腾讯云 新注册用户 域名抢购1元起>>>   

摘要: javascript在计算浮点型数据的时候存在数据结果不准确的问题,自制计算方法实现浮点型数值运算。基本思想:将浮点型转换成整型进行计算,然后除以10的倍数获取精度,即得最后结果。

js中浮点型是如何运算的呢?

例如:var a=0.69;

我想得到6.9 直接这样写 var c=a*10;

alert(c);   得到结果是:6.8999999999999995

到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法:

方法一:有js自定义函数

/**
 * 校验是否为数字
 * @param arg
 * @return
 */
function checkIsNumber(arg){
    if(arg != null && arg.toString() != ""){
        var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
        if(re.test(arg.toString())){
            return true;
        }
    }
    return false;
}

/**
 * 加法函数,用来得到精确的加法结果
 * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accAdd(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var r1,r2,m;
    try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} 
    try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} 
    m=Math.pow(10,Math.max(r1,r2));
    return (arg1*m+arg2*m)/m;
}

// 给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
    return accAdd(this,arg);
}

/**
 * 减法函数,用来得到精确的减法结果
 * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
 * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accSub(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var r1,r2,m,n;    
    try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}    
    try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
    m=Math.pow(10,Math.max(r1,r2));
    // n=(r1>=r2)?r1:r2; // 控制精度
    // return ((arg1*m-arg2*m)/m).toFixed(n);
    return (arg1*m-arg2*m)/m;
}

// 给Number类型增加一个subduct方法,调用起来更加方便。
Number.prototype.subduct = function (arg){
    return accSub(this,arg);
}

/**
 * 除法函数,用来得到精确的除法结果
 * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 * 返回值:arg1除以arg2的精确结果
 * @param arg1
 * @param arg2
 * @return
 */
function accDiv(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var t1,t2,r1,r2;
    try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;} 
    try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
    with(Math){
    r1=Number(arg1.toString().replace(".",""));
    r2=Number(arg2.toString().replace(".","")); 
    return (r1/r2)*pow(10,t2-t1); 
    } 
} 

// 给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){ 
    return accDiv(this,arg); 
} 

/**
 * 乘法函数,用来得到精确的乘法结果 
 * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 * 返回值:arg1乘以arg2的精确结果 
 * @param arg1
 * @param arg2
 * @return
 */
function accMul(arg1,arg2) {
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var m=0,s1=arg1.toString(),s2=arg2.toString(); 
    try{m+=s1.split(".")[1].length;}catch(e){}
    try{m+=s2.split(".")[1].length;}catch(e){} 
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); 
} 

// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){ 
    return accMul(this,arg); 
} 
var a=0.69;var b=10;
alert(a*b);//6.8999999999999995alert((a*100)/10);

直接调用函数就可以。


方法二:如果在知道小数位个数的前提下,可以考虑通过将浮点数放大倍数到整型(最后再除以相应倍数),再进行运算操作,这样就能得到正确的结果了

alert(11*22.9);//得到251.89999999999998
alert(11*(22.9*10)/10);//得到251.9


共有 人打赏支持
粉丝 2
博文 33
码字总数 17900
×
Arthur126
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
* 金额(元)
¥1 ¥5 ¥10 ¥20 其他金额
打赏人
留言
* 支付类型
微信扫码支付
打赏金额:
已支付成功
打赏金额: